Premier postulat sur les IA : si nous ne mettons aucun verrou lors de leur conception, rien ne leur interdira d’aller au-delà de ce que nous avons imaginé ou d’accomplir des actions inattendues pour atteindre l’objectif que nous leur avons fixé.
n
Une IA pourrait être comme un tueur en série qu’on aurait oublié de menotter. La morale est une notion humaine, pourquoi ne pas rester libre et faire n’importe quoi ? Enfant libre, IA libre.
n
Exemples :
- n
- “Dis IA, crée-moi l’être le plus intelligent possible” risque de nous conduire à une personnalité qui nous dépassera très rapidement.
- “OK IA, réduis l’empreinte carbone de la planète” et l’IA de tuer tous les hommes.
n
n
La piste proposée par Stuart RUSSEL dans son livre “Human Compatible” est de ne pas assigner d’objectif final à une IA et de lui fixer des étapes, des demandes d’autorisations, des barrières pour poursuivre et découvrir le nouvel objectif.
n
n
Et nous, petits esprits un peu lents, aurons le temps de vérifier que l’IA avance dans la bonne direction.
n
n
Cela ne résout en rien la question des esprits mal intentionnés, des IA à la portée de tous et des IA créées par des IA. Tout le monde croit que ce n’est pas pour demain, comme pour la prochaine pandémie.