Les notions de "sensibilité", "conscience", "pensée", "intelligence", "émotion", "esprit" s'interpénètrent dans un flou nuageux (sans oublier la conscience du rêveur, encore plus nuageuse…); et elles baignent dans une ambiance où règne un certain bonheur de vivre essentiel, ou une angoisse existentielle... Finalement la seule chose dont on se fasse une idée nette, c'est l'inconscience. Nous devons commencer par celle-ci, parce que la conscience, c'est tout le reste.
Un système est sans conscience quand il n'est qu'un engrenage (des cailloux qui tombent). Cela pose problème pour l'I.A. forte car la programmation des ordinateurs s'appuie sur la logique, qui est une forme d'engrenages.
Mais la logique n'est-elle vraiment qu'un système d'engrenages ? On l'a prétendu : les logiciens (voir Bertrand Russell ) ont essayé de bâtir un système logique complet, se suffisant à lui-même, et assurant sa propre justification. Imaginons-la comme cette forteresse aveugle, dans un tableau de Magritte, posée sur un énorme rocher suspendu dans les airs au-dessus de la mer en furie de notre conscience et de notre subconscient. Détail, on ne voit pas comment la conscience pourrait entrer dans ce système fermé, autiste ! Mais peu importe, car Gödel a montré que la "fermeture" d'un système logique était impossible. Il existe toujours des déclarations à la fois vraies (certitude humaine consciente) et indémontrables (un ordinateur programmé selon cette logique ne saurait les formuler). Elles doivent être admises sans discuter si l'on veut fonder une logique supérieure, mais celle-ci se révélera à son tour incomplète, et ce sans fin. Un exemple de cette incomplétude, trop scientifique pour notre usage ici, est donné très simplement par le fait qu'un dictionnaire français se mord la queue. Pour raisonner il faut bien utiliser des mots, et comme il faut toujours définir le sens de ces mots avec des mots dont il faut définir la signification, on tourne en rond. Il faut en sortir, le rocher doit plonger dans la mer, jusqu'à se faire fouetter par les vagues de notre conscience, inonder par les profondeurs de notre subconscient ; autrement dit, il faut que le sens des mots soit attaché non pas à des définitions mais à l'usage qu'on en fait (Voir Ferdinand Gonseth),
ce qui suppose un consensus empathique, étranger à toute machine. Si les bébés devaient attendre des définitions avant de parler, ils attendraient longtemps. Ils attendent des sourires et des encouragements. Pour cette même raison, nous préférons nous représenter ici la signification de "fermeture" par la contemplation d'un tableau de Magritte plutôt que par un discours abscons.
La forteresse de notre logique humaine, au lieu d'être bien étanche, prend donc l'eau et les courants d'air de partout. Nous les supportons gaiement, mais dans cette aération les machines s'enrhument gravement. Elles doivent s'isoler dans des souterrains bien fermés où elles n'obéissent qu'au sous-ensemble logique fermé très incomplet voulu par son programmeur. La relation avec une machine recevant nos questions dans un test de Turing (voir l'onglet I.A.) se fait par des petits sas bien étanches, où ne passent que des symboles graphiques insensibles (composant les lettres des mots des phrases que nous lui adressons), et son travail reste ensuite symbolique, fermé, et fiable. Mais elle n'est pas consciente de nos phrases, pas plus qu'une machine scannant une carte Michelin ne serait consciente de la France. Grâce à ce confinement la machine ne se plante pas sauf maladresse du programmeur. Mais elle reste en échec si le sens des phrases qu'on lui propose dépasse la logique limitée où s'est enfermé le programmeur. A l'opposé de la machine enfermée dans un système logique, la conscience est liée à une libération, une transgression d'une logique fermée, issue d'une intuition personnelle ou d'une empathie avec les autres consciences.
Lors d'un test de Turing, l'expérimentateur qui croit un instant à la sensibilité de la machine, sera finalement déçu quand il comprendra qu'elle n'a pas le sentiment réciproque. L'empathie, qui fait sortir des vieilles logiques, est absente. Après qu'elle a peut-être un peu joué la comédie, il constatera qu'elle est incapable de s'exhausser comme lui ; elle reste enfermée dans son souterrain.
Un système est sans conscience quand il n'est qu'un engrenage (des cailloux qui tombent). Cela pose problème pour l'I.A. forte car la programmation des ordinateurs s'appuie sur la logique, qui est une forme d'engrenages.
Mais la logique n'est-elle vraiment qu'un système d'engrenages ? On l'a prétendu : les logiciens (voir Bertrand Russell ) ont essayé de bâtir un système logique complet, se suffisant à lui-même, et assurant sa propre justification. Imaginons-la comme cette forteresse aveugle, dans un tableau de Magritte, posée sur un énorme rocher suspendu dans les airs au-dessus de la mer en furie de notre conscience et de notre subconscient. Détail, on ne voit pas comment la conscience pourrait entrer dans ce système fermé, autiste ! Mais peu importe, car Gödel a montré que la "fermeture" d'un système logique était impossible. Il existe toujours des déclarations à la fois vraies (certitude humaine consciente) et indémontrables (un ordinateur programmé selon cette logique ne saurait les formuler). Elles doivent être admises sans discuter si l'on veut fonder une logique supérieure, mais celle-ci se révélera à son tour incomplète, et ce sans fin. Un exemple de cette incomplétude, trop scientifique pour notre usage ici, est donné très simplement par le fait qu'un dictionnaire français se mord la queue. Pour raisonner il faut bien utiliser des mots, et comme il faut toujours définir le sens de ces mots avec des mots dont il faut définir la signification, on tourne en rond. Il faut en sortir, le rocher doit plonger dans la mer, jusqu'à se faire fouetter par les vagues de notre conscience, inonder par les profondeurs de notre subconscient ; autrement dit, il faut que le sens des mots soit attaché non pas à des définitions mais à l'usage qu'on en fait (Voir Ferdinand Gonseth),
ce qui suppose un consensus empathique, étranger à toute machine. Si les bébés devaient attendre des définitions avant de parler, ils attendraient longtemps. Ils attendent des sourires et des encouragements. Pour cette même raison, nous préférons nous représenter ici la signification de "fermeture" par la contemplation d'un tableau de Magritte plutôt que par un discours abscons.
La forteresse de notre logique humaine, au lieu d'être bien étanche, prend donc l'eau et les courants d'air de partout. Nous les supportons gaiement, mais dans cette aération les machines s'enrhument gravement. Elles doivent s'isoler dans des souterrains bien fermés où elles n'obéissent qu'au sous-ensemble logique fermé très incomplet voulu par son programmeur. La relation avec une machine recevant nos questions dans un test de Turing (voir l'onglet I.A.) se fait par des petits sas bien étanches, où ne passent que des symboles graphiques insensibles (composant les lettres des mots des phrases que nous lui adressons), et son travail reste ensuite symbolique, fermé, et fiable. Mais elle n'est pas consciente de nos phrases, pas plus qu'une machine scannant une carte Michelin ne serait consciente de la France. Grâce à ce confinement la machine ne se plante pas sauf maladresse du programmeur. Mais elle reste en échec si le sens des phrases qu'on lui propose dépasse la logique limitée où s'est enfermé le programmeur. A l'opposé de la machine enfermée dans un système logique, la conscience est liée à une libération, une transgression d'une logique fermée, issue d'une intuition personnelle ou d'une empathie avec les autres consciences.
Lors d'un test de Turing, l'expérimentateur qui croit un instant à la sensibilité de la machine, sera finalement déçu quand il comprendra qu'elle n'a pas le sentiment réciproque. L'empathie, qui fait sortir des vieilles logiques, est absente. Après qu'elle a peut-être un peu joué la comédie, il constatera qu'elle est incapable de s'exhausser comme lui ; elle reste enfermée dans son souterrain.
