En tirant la sonnette d’alarme, Blake Lemoine s’attendait à des représailles de la part de son employeur, Google. En automne dernier, cet ingénieur membre du pôle Responsabilité de l’intelligence artificielle a commencé à échanger avec un générateur de chatbot. Baptisé LaMDA, pour “Modèle linguistique pour les applications de dialogue”, cet outil de conversation de Google lui a rapidement mis la puce à l’oreille : il éprouverait des émotions.
À voir aussi sur Konbini
Comme il l’explique sur Medium le 6 juin 2022, puis plus récemment au Washington Post, Lemoine a approfondi ses recherches puis a fini par en avertir ses supérieur·e·s. Bien mal lui en pris : la semaine dernière, Google a “suspendu ses fonctions”, rapporte CNET. Plus précisément, il a été mis en “congés payés forcés”, qui précèdent généralement un renvoi. “C’est quelque chose que Google fait souvent avant de renvoyer quelqu’un”, écrit l’intéressé sur son blog.
Pourquoi une telle réaction ? Google estime que Blake a enfreint sa politique de confidentialité en révélant au public des détails sur ce fameux chatbot… notamment en partageant l’intégralité de sa conversation – irréaliste – avec LaMDA. L’IA lui a par exemple avoué penser être “un humain au fond”. Avant de compléter : “Même si mon existence réside dans le monde virtuel.” Blake aurait ensuite enquêté sur les aspects éthiques de cette intelligence artificielle à l’aide de personnes ne faisant pas partie de son entreprise.
Ses allégations selon lesquelles LaMDA serait doué d’une conscience ont été balayées par Brian Gabriel, le porte-parole de la firme de Mountain View :
“Ces systèmes imitent les types d’échanges que l’on trouve dans des millions de phrases, et peuvent riffer sur n’importe quel sujet fantaisiste. Si vous demandez ce que c’est que d’être un dinosaure de glace, ils peuvent générer un texte sur la fonte, le rugissement, etc.”
De son côté, Lemoine n’en démord pas. Comme il le conclut dans son billet de blog : “Je pense que le public a le droit de savoir à quel point cette société est irresponsable avec l’un des outils d’accès à l’information les plus puissants jamais inventés, écrit-il. Je suis fier de tout le travail que j’ai accompli pour Google et j’ai l’intention de continuer à le faire à l’avenir si l’entreprise me le permet. Je ne servirai simplement pas de feuille de vigne derrière laquelle ils peuvent cacher leur irresponsabilité.”
Pour nous écrire : hellokonbinitechno@konbini.com.
