Des IA "garde-fous" pour protéger l'Humanité (Yoshua Bengio, Mila Montréal)

[Rediffusion] Interview exclusive de Yoshua Bengio, fondateur du centre Mila de Montréal consacré à l'intelligence artificielle (en partenariat avec Mon Carnet / Bruno Guglielminetti).
Co-inventeur du deep learning (apprentissage profond), et considéré comme l'une des personnalités les plus influentes du monde en intelligence artificielle, l'universitaire québécois Yoshua Bengio milite pour une approche prudente de l'IA. Selon lui, les intelligences artificielles qui seront développées dans le futur représenteront un véritable risque pour l'espèce humaine, pouvant conduire à sa destruction. Contrairement à son collègue français Yann Le Cun, Bengio se situe donc sur une ligne d'inquiétude et de prudence. Il en appelle à faire jouer le principe de précaution. Il explique comment ses travaux de recherche actuels visent à donner le jour à une sorte "d'IA gendarme", qui serait capable de contrôler les autres IA afin de faire en sorte qu'elles respectent des règles éthiques et démocratiques.
-----------
♥️ Soutenez Monde Numérique : donorbox.org/m...
🌏 Web : mondenumerique...
🗞️ Newsletter : mondenumerique...
📹 TH-cam : / @mondenumerique
-----------
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite (ausha.co/polit...) pour plus d'informations.

[@jacquestoledano5975]

Merci pour votre entretien avec Yodhua BENGIO, que je tente de suivre, pour des travaux, depuis qqs années. IL a été l'un des préconisateurs d'une Charte Internationale d'une Éthique dans le domaine numérique.
Je ne sais pas où celle-ci en est et qui parmi les multiples multinationales l'applique !? Surtout avec l'arrivée des IA génératives!
Notre histoire en cours est elle, malgré le numérique et l'optimisme de Y Bengio, potentiellement messianique? ou carrément se retourner contre les utilisateurs, où mêmes contre les promoteurs qui ne connaissent pas tous les algorithmes constituant les versions promues. Dont déstabiliser nos démocraties, bonnes mais très fragiles.
Si oui... pas que!
Ces IA peuvent également mettre en danger des élus démocratiques, et n'ont à ce jour profité souvent qu'à des DROITES dures populistes, ou très autoritaires du type fascisantes. Rappelons nous comment ce terrible assassin, Hitler, a utilisé les techniques liées à la radio et aux médias dans un pays très avancé, dans plusieurs domaines.
Que reste d'humain, ou de démocratique, dans ces IA mêmes generatives, génératrices de FAUX massivement, ET profitant qu'à qqs individus, des grands manipulateurs maximisant des profits pour qqs particuliers.
Merci pour votre vos informations concernant l'évolution de cette technologie encore fragile, surtout avec l'IA générative, prétendue intelligente. ALORS qu'elle est d'un niveau assez bas, et déjà très idéologiquement désastreuse, intellectuellement parlant. Surtout pour Tik Tok invisibilisant TOUTES SES DONNÉES, au profit d'une propagande politique ou une idéologie unidimensionnelle, inevitablement sanguinaire.
OUI, le numérique, et mnt l'IA, ne cessera pas effectivement d'évoluer, avec bcp de fausses nouvelles, car l'apprentissage nous apprend qu'il n'y a pas une montagne unique, même pour la plus haute maîtrisée, comme pour L'HUMAIN.
Chaque personne a UNE forte singularité et tant mieux pour l'Etre. Apprenons une fois pour TOUTES, qu'il n'est aucunement un cumul d'avoir (s).
Prenons un peu l'évolution millénaire de notre savoir, à travers de multiples acquis. Et partons pour cela d'un ...
Exemple :PROCHE ET EXTRÊME ORIENT
Notre histoire tjs en cours est elle messianique? ... peut être mais pas que!
Ne pas confondre, aucunement, les élites ou un groupe d'un pays avec les populations de celui-ci.
dirigé, temporairement, par un groupe d'élites manipulant une langue et une idéologie, pas nécessairement intelligentes. Les populations retenant potentiellement qqs traces collectivement pérennes et solidaires
QQS contributions montrent bcp d'incapacités à comprendre l'histoire violente qui domine encore ces zones, et une incapacité objective à lire un point de vue, éclairant soit il, sans affects négatifs.
Qu'avons nous à dénoncer ET quelle est notre être archéologie de nos connaissances objectives et adéquates, face aux multiples vivants naturels complexes, nous procurant des richesses fondamentales et communes, dont nous n'en sommes qu'une des parties ?
Après tant de tribus, de croyances, d'Empires d'États (Droits et Devoirs), et tant de guerres... partout!
Naissance en Orient du monothéiste ou autres ailleurs !
. 3000 ans pour le Judaïsme: un État? Mnt une croyance stable avec une vision globale pacifique.
. 2000 ans pour le Christianisme: avec une extension lente... Empires, Etats et de nombreuses guerres externes ou internes ... reniant l'existence du Judaïsme? Mnt des croyances stables! Mnt avec une vision globale démocratique et pacifique.
. 1500 ans pour l'Islam: avec une extension très rapide...Califat, Empires, Etats et de plus nombreuses guerres externes ou internes (ici plus sanguinaires) ...reniant très violemment l'existence des autres, suivant leurs diff tendances? Mnt des croyances encore très instables! Mnt avec une vision globale non démocratique, conquérante sanguinairement, mêmes en internes.
. 200 ans de connaissances rationnelles et d'États Nations Souverains, tentant de séparer la politique des religions... protégeant pour la première fois l'individu par un statut, mais avec qqs guerres, dont civiles, encore mnt. Mnt avec une science qui ne cesse d'évoluer, contradictoire par récits/ expérimentations/évaluations, pour constituer une vision globale, plus harmonieuse et décarbonée, pour tous les vivants naturels, pacifique et inevitablement solidaire.
Qui suis je moi même et que suis je pour l'autre ?
Suis je le mauvais X dans le regard de l'Autre, sans doute lui même, encore plus mauvais?
Est ce ainsi que notre histoire vivante, adéquate et commune, avance? ... lentement jusqu'à présent.
Cette histoire tjs en cours n' est ni messianique, ni numérique ni ...?
... peut être mais pas que !
Le probable improbable comme l'improbable probable. Et observons avec une plus grande attention tout ce qui se bâtit au nom de la globalité ... respectueuse en fait de quoi et pour qui ?
Bonnes continuations respectueusement au nom de tous les vivants naturels, dont nous n'en sommes qu'une des ... parties.

[@marinoceccotti9155]

Le manga Blame! parle de ces "safeguards". Curieusement, il vaut mieux leur échapper.