Les machines "intelligentes" sont-elles conscientes ? Les gens positifs disent que non. Mais les âmes sensibles, les enfants, s'émeuvent (ou s'effraient) devant un robot, humanoïde ou pas, et projettent parfois sur lui la même sensibilité que sur un animal domestique ou même une personne. Ce genre d'attendrissement n'est pas un détail négligeable, la conscience d'autrui (homme ou chien), par opposition à la conscience de soi, est un sérieux problème.
Le fossé sera-t-il franchi un jour ? C'est la prétention de l'I.A. "forte" (voir par exemple Marvin Minski).
Son ambition a été illustrée par Turing, un des pères de l'informatique, qui a proposé un test. Supposons qu'on isole un ordinateur et un homme dans deux chambres distinctes aveugles, sans révéler à l'extérieur l'occupant de chaque pièce. Sans se dévoiler (par l'intermédiaire d'un écran par exemple) ils répondent aux questions qu'un expérimentateur leur pose. Si celui-ci ne parvient pas à trouver des questions lui permettant de distinguer l'homme de l'ordinateur, alors il n'y aura pas de raison de refuser la conscience à l'ordinateur. L'argument se tient, car, encore une fois, quand projetons-nous une conscience sur autrui ? Quand nous éprouvons une empathie. Pourquoi la refuser à l'occupant d'une de ces pièces sous prétexte qu'il cache son apparence corporelle ? Discrimination envers un handicapé physique !
Mais de quelle physique parle-t-on ? Peut-on confondre la matière d'un être vivant et celle d'une machine informatique ? Certes toutes deux obéissent à la physique réelle, inconnue (la physique n'est pas une science aboutie), mais l'inventeur de la machine, même très savant, n'utilise que l'approximation de la physique classique, et même un sous-ensemble de celle-ci suffisante à son invention. C'est une science exclusivement matérielle, où il n'est pas question de faire apparaître la notion de "je", et qui est donc fausse (le "je" existe bien dans l'univers, chacun en a la preuve en soi). Mais elle suffit pour que la machine fonctionne. Néanmoins ses circuits électroniques ne fonctionnent pas exactement comme on l'espère, et cette fêlure entre physique réelle et physique utilitaire s'élargira lentement si bien qu'un jour émergera un défaut, la machine tombera en panne. Mais la fêlure ne pourra jamais émerger comme une qualité complètement étrangère à la physique utilitaire. Que l'ignorance d'un détail dans un projet aboutisse à autre chose qu'à de mauvaises surprises, que cela aboutisse même à faire émerger une qualité inattendue complètement extérieure au projet, voilà une merveille pour les ingénieurs du monde entier ! Comme si les approximations faites dans la conception d'une voiture pouvaient aboutir à la faire voler, avant même qu'on ait inventé l'avion !
Croire avec les tenants de l'I.A. forte que le "je" pourrait émerger d'une machine du fait que sa complexité augmente, c'est donc croire à un miracle (surnaturel, alors que ces croyants-là se disent matérialistes...) ; derrière cette foi nous soupçonnons l'argumentation biaisée suivante, composée de trois prémices 1, 2, 3 et d'une conclusion 4 :
1. L'intelligence des machines tend à ressembler à l'intelligence humaine. (C'est un fait.)
2. La conscience humaine émerge de la matière. (Ce n'est pas un fait, c'est une opinion.)
3. Intelligence et conscience tendent à être synonymes. (C'est un abus de langage, qui répond à la question quand on veut la poser).
4. Conclusion : il vient de ce qui précède que puisque l'intelligence de la machine et celle de l'homme tendent à se rapprocher, on pourra un jour montrer : a) que l'intelligence de la machine devient consciente, b) réciproquement, que la conscience humaine émerge d'une machine neuronale. Dans cette dernière conclusion, on ne fait que retrouver ce qu'on avait mis en 2 dans les prémices, on tourne en rond dans son opinion.
En somme on lie a priori les recherches en I.A. et les recherches sur le cerveau en y voyant plus qu'une analogie, alors qu'il faut distinguer les deux problèmes pour cette raison que les machines de l'I.A. supposent une physique utilitaire, tandis que le cerveau suppose la physique réelle.
Revenons au test de Turing. La machine a de plus en plus "l'air" d'être consciente, surtout si on la programme explicitement pour ressembler à un psychanalyste. Mais quelle différence entre "avoir l'air" et "être" ? Voir la page Gödel !
Le fossé sera-t-il franchi un jour ? C'est la prétention de l'I.A. "forte" (voir par exemple Marvin Minski).
Son ambition a été illustrée par Turing, un des pères de l'informatique, qui a proposé un test. Supposons qu'on isole un ordinateur et un homme dans deux chambres distinctes aveugles, sans révéler à l'extérieur l'occupant de chaque pièce. Sans se dévoiler (par l'intermédiaire d'un écran par exemple) ils répondent aux questions qu'un expérimentateur leur pose. Si celui-ci ne parvient pas à trouver des questions lui permettant de distinguer l'homme de l'ordinateur, alors il n'y aura pas de raison de refuser la conscience à l'ordinateur. L'argument se tient, car, encore une fois, quand projetons-nous une conscience sur autrui ? Quand nous éprouvons une empathie. Pourquoi la refuser à l'occupant d'une de ces pièces sous prétexte qu'il cache son apparence corporelle ? Discrimination envers un handicapé physique !
Mais de quelle physique parle-t-on ? Peut-on confondre la matière d'un être vivant et celle d'une machine informatique ? Certes toutes deux obéissent à la physique réelle, inconnue (la physique n'est pas une science aboutie), mais l'inventeur de la machine, même très savant, n'utilise que l'approximation de la physique classique, et même un sous-ensemble de celle-ci suffisante à son invention. C'est une science exclusivement matérielle, où il n'est pas question de faire apparaître la notion de "je", et qui est donc fausse (le "je" existe bien dans l'univers, chacun en a la preuve en soi). Mais elle suffit pour que la machine fonctionne. Néanmoins ses circuits électroniques ne fonctionnent pas exactement comme on l'espère, et cette fêlure entre physique réelle et physique utilitaire s'élargira lentement si bien qu'un jour émergera un défaut, la machine tombera en panne. Mais la fêlure ne pourra jamais émerger comme une qualité complètement étrangère à la physique utilitaire. Que l'ignorance d'un détail dans un projet aboutisse à autre chose qu'à de mauvaises surprises, que cela aboutisse même à faire émerger une qualité inattendue complètement extérieure au projet, voilà une merveille pour les ingénieurs du monde entier ! Comme si les approximations faites dans la conception d'une voiture pouvaient aboutir à la faire voler, avant même qu'on ait inventé l'avion !
Croire avec les tenants de l'I.A. forte que le "je" pourrait émerger d'une machine du fait que sa complexité augmente, c'est donc croire à un miracle (surnaturel, alors que ces croyants-là se disent matérialistes...) ; derrière cette foi nous soupçonnons l'argumentation biaisée suivante, composée de trois prémices 1, 2, 3 et d'une conclusion 4 :
1. L'intelligence des machines tend à ressembler à l'intelligence humaine. (C'est un fait.)
2. La conscience humaine émerge de la matière. (Ce n'est pas un fait, c'est une opinion.)
3. Intelligence et conscience tendent à être synonymes. (C'est un abus de langage, qui répond à la question quand on veut la poser).
4. Conclusion : il vient de ce qui précède que puisque l'intelligence de la machine et celle de l'homme tendent à se rapprocher, on pourra un jour montrer : a) que l'intelligence de la machine devient consciente, b) réciproquement, que la conscience humaine émerge d'une machine neuronale. Dans cette dernière conclusion, on ne fait que retrouver ce qu'on avait mis en 2 dans les prémices, on tourne en rond dans son opinion.
En somme on lie a priori les recherches en I.A. et les recherches sur le cerveau en y voyant plus qu'une analogie, alors qu'il faut distinguer les deux problèmes pour cette raison que les machines de l'I.A. supposent une physique utilitaire, tandis que le cerveau suppose la physique réelle.
Revenons au test de Turing. La machine a de plus en plus "l'air" d'être consciente, surtout si on la programme explicitement pour ressembler à un psychanalyste. Mais quelle différence entre "avoir l'air" et "être" ? Voir la page Gödel !
