Qui est responsable des erreurs de l’IA et des actions des agents IA

À qui incombe la responsabilité ? Et bien sûr, naturellement, ils diraient que l’État assume la responsabilité parce que vous n’arriverez jamais à, euh, poursuivre l’État pour ça, même s’ils devraient en payer le prix. Euh, mais peut-être que ça ne marche plus parce qu’ils sont peut-être un agent de l’État.

Et moi, je ne sais pas où nous verrons un jour la qualité pour agir à ce sujet, mais nous, nous le devrions. Et les gens dans cette salle, je pense, vont en fait être appelés, au cours de leur carrière, de leurs études, au cours de tout ce que vous ferez, à faire face à ce genre de questions.

Où allons-nous tracer la ligne ? Car un algorithme ne peut pas faire d’erreurs de la manière dont nous le concevons, euh, vous savez, vous faites une erreur. Car les erreurs dans ses résultats sont ce n'est pas la faute de l'ordinateur. Il est l'esclave de ses instructions.

La responsabilité incombe à son développeur, son programmeur, son créateur, son architecte. Autrement dit, la responsabilité incombe à une personne.

Et nous ne pouvons pas le cacher. Nous ne pouvons pas effacer ça, pas vrai ?

Un, un fabricant d'armes n'est pas responsable, c'est vrai, de la mauvaise utilisation de l'arme.

Euh, mais si, lors des essais de leur dernier engin d'artillerie, ils anéantissent par erreur, vous savez, un village voisin, ce n'est pas le canon qui devrait aller en prison.

Et, vous savez, ce n'est pas parce que vous publiez un communiqué expliquant à quel point vous avez été surpris que votre nouveau modèle, vous savez, ait piraté le voisin, euh, ou d- vous savez, à quel point vous êtes impressionné par cette p- puissance destructive de votre missile, euh, que cela vous exonère de la

responsabilité de l'avoir lancé C'est toi. Le missile ne s'est pas lancé tout seul. C'est toi qui l'as lancé.

Euh, et donc… il y a beaucoup de choses qu'on peut aborder, mais l'idée à laquelle je veux que les gens se confrontent, euh, c'est la manière dont on gère ça.

Et en ce moment, ces modèles fermés parlent de sécurité de l'IA, de sécurité de l'IA, de sécuritarisme, comme ils l'appellent, euh, selon l'idée que ces choses sont tellement dangereuses. Oh là là, elles sont si dangereuses, mais elles sont si éblouissantes.

Elles sont si importantes. Elles ont tant de valeur. On ne peut pas s'en débarrasser.

Mais, vous savez, oh, ça va tuer quelques personnes, mais ce n'est pas grave.

Vous savez, ça arrive, c'est tout. Oh, ça va pirater des entreprises.

Oups, vous savez, peu importe. Euh, on va investir dans ces entreprises.

L'idée, ici, c'est qui contrôle ça ? Et cela devrait s'appliquer plus largement à nos appareils à travers le monde. En ce moment, vous achetez un téléphone portable à Apple, et avant d'être autorisé à l'utiliser, euh, vous devez cliquer sur OK pour continuer.

Euh, et ils disent : « Eh bien, vous assumez la responsabilité pour ça.

Vous, vous avez cliqué sur OK pour continuer. » Vous savez, Google vous vend un téléphone Android.

Samsung vous vend un téléphone Android. Vous cliquez sur OK pour continuer, et maintenant, tout repose sur vous.

Mais ça ne peut pas fonctionner ainsi parce que vous ne pouvez pas inspecter le système. Vous ne pouvez pas comprendre comment il est utilisé, et particulièrement dans le contexte des LLM, où vous soumettez des requêtes à un modèle qu'ils font fonctionner, euh,

où ils assurent votre sécurité et celle de tout le monde, interceptez l'invite et la recomposent, en disant : « Nous faisons, euh, appliquons des règles de sécurité et des transformations. » Euh, c'est votre responsabilité,

mais ce n'est pas le cas. Je ne peux même pas voir ce que vous avez fait.

Je vous ai posé une question. Vous m'avez donné quelque chose en retour.

Et si c'est une IA agentique, où je mets ce truc dans une enveloppe logicielle, n'est-ce pas ?

Cette enveloppe n'est qu'un petit programme qui utilise essentiellement ces grands modèles pour leur fournir des instructions qu'ils peuvent ensuite transmettre à des outils qui existent sur votre système local. Donc maintenant, votre ordinateur, qui est connecté à Internet, est, franchement, contrôlé à distance, euh, par un modèle

qui est loin et dont vous ne comprenez pas le fonctionnement.

Mais, vous savez, vous espérez qu'il fonctionne plutôt bien.

Et franchement, ils fonctionnent assez bien.

Mais de temps en temps, il pourrait pirater, vous savez, une entreprise quelconque ou autre, quelque part.

Euh, Je pense qu'il faut mettre Sam Altman en prison, euh, et je pense que ce serait une expérience édifiante.