IA or not IA ?

Premier postulat sur les IA : si nous ne mettons aucun verrou lors de leur conception, rien ne leur interdira d'aller au-delà de ce que nous avons imaginé ou d'accomplir des actions inattendues pour atteindre l'objectif que nous leur avons fixé.

Une IA pourrait être comme un tueur en série qu'on aurait oublié de menotter. La morale est une notion humaine, pourquoi ne pas rester libre et faire n'importe quoi ? Enfant libre, IA libre.

Exemples :

• "Dis IA, crée-moi l'être le plus intelligent possible" risque de nous conduire à une personnalité qui nous dépassera très rapidement.

• "OK IA, réduis l'empreinte carbone de la planète" et l'IA de tuer tous les hommes.

La piste proposée par Stuart RUSSEL dans son livre "Human Compatible" est de ne pas assigner d'objectif final à une IA et de lui fixer des étapes, des demandes d'autorisations, des barrières pour poursuivre et découvrir le nouvel objectif.

Et nous, petits esprits un peu lents, aurons le temps de vérifier que l'IA avance dans la bonne direction.

Cela ne résout en rien la question des esprits mal intentionnés, des IA à la portée de tous et des IA créées par des IA. Tout le monde croit que ce n'est pas pour demain, comme pour la prochaine pandémie.