Le sujet de l'éthique dans l'IA est apparu quasi simultanément à l'IA elle-même - ceci probablement pour raisonner la peur d'affronter une intelligence surhumaine en recherchant les moyens de la juguler. C'est un vaste sujet avec de multiples angles d'attaque. J'en retiendrais trois : la connaissance source de pouvoir, la connaissance qui dépasse l'entendement et la connaissance qui prend la main sur l'action.

La connaissance source de pouvoir : avoir la capacité d'être plus clairvoyant que d'autres, est-ce éthique ou pas ?

Les technologies d'Intelligence Artificielle permettent d'analyser beaucoup plus de données qu'aucun cerveau humain n'en est capable. Elles apportent donc par conséquent à celui qui sait s'en servir une connaissance supérieure à ce que tout être humain peut avoir par ses propres efforts. Est-ce éthique ? Ai-je moralement le droit d'en savoir vraiment plus que d'autres seulement parce que j'ai les moyens techniques et financiers d'utiliser de l'IA de pointe ?

C'est une vraie question éthique mais qui existe depuis toujours, avec ou sans IA, et qui revient sur le grand sujet du pouvoir de la connaissance et sur la monétisation de ce pouvoir. Sujet pour lequel je me sens bien léger face aux philosophes (de Platon à Foucault en passant par Bacon) qui l'ont abordé, je leur laisse donc de bonne grâce le soin d'y répondre pour nous !

La connaissance qui dépasse l'entendement : comprendre vraiment ce que l'IA fait pour soi, avoir le discernement pour éthique

Que faire d'une connaissance qui dépasse en toutes manières ma capacité à élaborer une réflexion comparable ? Qui dépasse mon entendement ?

Dois-je croire tout ce que l'IA produit parce qu'elle est vraiment plus forte que moi ? Si non, comment procéder pour séparer le bon grain de l'ivraie ? Voilà des questions qui sont à la fois éthiques, techniques et pratiques.

Savoir avec quelles méthodes, quels moyens je vais pouvoir pratiquer mon discernement parmi tout ce que produit l'IA est un vrai besoin. Et d'autant plus ardu à satisfaire que les processus d'élaboration de la connaissance par l'IA sont extrêmement difficiles à retracer. L'IA ne raisonne pas, elle procède par analogie entre les informations (en quantité astronomique) qu'elle a digérée antérieurement et les nouvelles informations qui lui sont fournies à un instant T. Pas facile à contrôler, à vérifier...

Savoir comment l'intelligence humaine va conserver et développer ses capacités de discernement face à l'IA me semble donc être une question essentielle.

La connaissance qui prend la main sur l'action : l'IA pour comprendre le réel ou pour changer le réel ?

Nous faisons souvent le constat sur les réseaux sociaux du fait que plus une chose est vue, plus elle est montrée. Et c'est là un biais de l'interaction entre l'IA et l'homme. L'homme cherche par l'IA à détecter des signaux faibles mais croissants (un « buzz » ou une « trend ») afin de les promouvoir. Il est donc possible qu'un signal faible croissant soit exagérément amplifié parce que promu, et donc détecté à nouveau comme croissant et donc repromu itérativement dans une routine robotisée car juste pilotée par une IA.

Nous nous trouvons alors dans une situation où l'IA peut transformer le réel pas ces effets d'amplification voire ainsi conditionner des comportements humains.

Si ce conditionnement est piloté par un humain (et devient donc une manipulation), cela pose une question d'éthique.

Mais encore plus préoccupant, si ce conditionnement n'est piloté que par une ou des IA qui ne font qu'amplifier de signaux qui sont peut-être au départ que de « faux positifs », cela pose des questions majeures quant au désancrage potentiel du genre humain avec la réalité.

Encore un grand sujet à creuser pour nos philosophes.