Aller au contenu
Accueil » IA or not IA ?

IA or not IA ?

Premier postulat sur les IA : si nous ne mettons aucun verrou lors de leur conception, rien ne leur interdira d’aller au-delà de ce que nous avons imaginé ou d’accomplir des actions inattendues pour atteindre l’objectif que nous leur avons fixé.

n

Une IA pourrait être comme un tueur en série qu’on aurait oublié de menotter. La morale est une notion humaine, pourquoi ne pas rester libre et faire n’importe quoi ? Enfant libre, IA libre.

n

Exemples :

    n

  • “Dis IA, crée-moi l’être le plus intelligent possible” risque de nous conduire à une personnalité qui nous dépassera très rapidement.
  • n

  • “OK IA, réduis l’empreinte carbone de la planète” et l’IA de tuer tous les hommes.
  • n

La piste proposée par Stuart RUSSEL dans son livre “Human Compatible” est de ne pas assigner d’objectif final à une IA et de lui fixer des étapes, des demandes d’autorisations, des barrières pour poursuivre et découvrir le nouvel objectif.

n

n

Et nous, petits esprits un peu lents, aurons le temps de vérifier que l’IA avance dans la bonne direction.

n

n

Cela ne résout en rien la question des esprits mal intentionnés, des IA à la portée de tous et des IA créées par des IA. Tout le monde croit que ce n’est pas pour demain, comme pour la prochaine pandémie.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *