Roger Penrose, Emanuele Severino – Artificielle Intelligence versus Natural Intelligence

Ce livre contient les transcriptions des interventions et du débat entre Roger Penrose et Emanuele Severino qui ont eu lieu lors de la conférence « Intelligence artificielle contre intelligence naturelle », organisée à Milan le 12 mai 2018. Ce sont les interventions d’ouverture. À cela s’ajoute trois autres présentations pertinentes, faites par d’autres chercheurs.

Le plus important à retenir ici, à mon avis, sont les trois points qui différencient l’intelligence naturelle de l’artificielle, selon Penrose : la Conscience, la Compréhension et l’Intelligence. Ces trois termes ont des sens précis et tous n’ont pas forcément d’accord.

Parlons ces concepts. L’intelligence a un sens plus précis que le mot du titre puisqu’il s’agit d’une capacité d’analyse et de réponse aux questions qu’on se pose. Il n’y a pas forcément de rapport avec la quantité de connaissance : ce n’est pas parce que quelqu’un possède une très vaste culture qu’il est intelligent. La Conscience est l’aptitude à connaître sa propre réalité, dans un sens plutôt psychique ou philosophique, ainsi que celle des autres êtres dans son environnement.

La Conscience est, probablement, l’aptitude la moins connue. Pour des physicalistes comme moi et aussi Penrose, tout cela vient de notre corps et pas d’ailleurs. Penrose imagine que la Conscience est dans les microtubules des neurones et pourrait s’expliquer par des lois de la Physique Quantique. Ses idées sur la conscience viennent des travaux qu’il a menés avec Stuart Hammerof, un anesthésiste. Personnellement, je suis un peu sceptique. Je pense que le phénomène de la conscience peut avoir une explication à un niveau plutôt macroscopique. Mais pour l’instant, les mystères du cerveau sont encore nombreux et la science n’expliquent pas encore tout.

Malgré quelques divergences sur des détails, tous les auteurs étaient d’accord pour dire que la Conscience est un élément clé des différences entre les Intelligences Artificielle et Naturelle.

Roger Penrose a, à mon avis, mené le débat contre la philosophie étant donné que, en tant que physicien, il est plus proche des faits et de la réalité physique.

D’autre part, j’ai posé la question à ChatGPT sur une citation de lui qui apparaissant dans le livre « Limits of AI – Theorical, Practical, Ethical ». Dans cette citation, ChatGPT disait : « As an AI language model, I don’t have personal experiences, beliefs, or a subjective understanding of the world. » Je l’ai transcrit ce dialogue dans dans la critique de ce livre.

Citations

(p. 14-15)

« Ma façon d’envisager la science consiste à chercher à découvrir ce qui est vrai au sujet du monde. Il n’y a donc pas d’enjeu moral en soi ; la question morale est distincte. » La science cherche à comprendre comment le monde fonctionne. Vient ensuite la technologie, qui s’intéresse à la manière d’exploiter les connaissances scientifiques. Bien qu’elle entretienne un lien étroit avec la science, la technologie ne se confond pas avec elle. La technologie exerce une influence considérable et constante sur le quotidien des gens, ce qui soulève inévitablement des questions d’ordre moral. Ainsi, selon Penrose, l’usage de la technologie — et plus particulièrement l’utilisation, bonne ou mauvaise, de la science — est intimement lié à la morale. Penrose est très clair à ce sujet : « Lorsque je fais de la science, je cherche à comprendre le fonctionnement du monde, et non à acquérir du pouvoir. » La science ne vise pas à contrôler le monde ; c’est là l’objectif de la technologie. La technologie et la morale sont des domaines distincts de la science, bien qu’ils en dépendent : lorsque la science évolue, ces deux autres domaines doivent en tenir compte et prendre en considération ses enseignements.

Quatrième de couverture

Cet ouvrage s’articule autour d’un dialogue entre Roger Penrose et Emanuele Severino portant sur l’un des sujets les plus fascinants de notre époque : la comparaison entre intelligence artificielle et intelligence naturelle, ainsi que son extension aux notions de conscience humaine et de conscience des machines.

Des essais complémentaires et éclairants de Mauro D’Ariano, Federico Faggin, Ines Testoni et Giuseppe Vitiello, ainsi qu’une introduction de Fabio Scardigli, enrichissent l’ouvrage et mettent en lumière différents aspects du débat.

Bien qu’ils adoptent des points de vue très différents, tous les auteurs semblent converger vers l’idée qu’il est quasi impossible de posséder une véritable « intelligence » sans une forme de « conscience ». En effet, la conscience — souvent perçue comme un « miroir » énigmatique de la réalité (mais s’agit-il vraiment d’un miroir ?) — est un phénomène qui fait l’objet d’intenses recherches scientifiques et technologiques, en particulier au cours des dernières décennies. D’où ce phénomène tire-t-il son origine (chez l’être humain, et peut-être aussi chez l’animal) ? Est-il reproductible sur un « dispositif » quelconque ? Disposons-nous aujourd’hui d’une théorie de la conscience ? Parviendrons-nous à construire des machines pensantes ou conscientes, comme semblent le promettre l’apprentissage automatique (*machine learning*) ou l’informatique cognitive ?

Ces questions, ainsi que d’autres sujets connexes, sont abordés dans cet ouvrage, qui offre une lecture stimulante tant pour les spécialistes que pour le grand public.