Éthique en action pour une IA en expansion : le cep propose des règles d'IA ayant valeur constitutionnelle

« Tout comme les voitures, qui sont équipées de freins et d'airbags avant d'être mises sur le marché, des mesures de sécurité doivent également être intégrées dans les systèmes d'IA avant qu'ils n'entrent dans la vie quotidienne », déclare Anselm Küsters, expert numérique du cep, qui a rédigé l'étude avec Manuel Wörsdörfer, professeur d'éthique informatique à l'université du Maine, aux États-Unis. Les auteurs appellent à une réglementation quasi-constitutionnelle pour éviter les abus. Le concept d'IA constitutionnelle consiste à intégrer des principes éthiques directement dans les fonctionnalités de l'IA. Mais attention car « tous les développeurs de technologies ne poursuivent pas les mêmes objectifs », prévient M. Küsters. « Alors que certains acteurs, comme Elon Musk avec xAI, aspirent à une IA sans limites, nous pensons que les règles et les limites sont également essentielles pour les modèles d'IA ».

Le modèle de l’« ordolibéralisme 2.0 » fournit un cadre pour l'élaboration de règles constitutionnelles. Cette approche nécessite des règles stables et tournées vers l'avenir pour l'économie des données, la protection contre les abus, la transparence des décisions et la protection des groupes marginalisés. Une approche démocratique est également nécessaire : la participation des citoyens devrait garantir que le cadre des systèmes d'IA est légitimé socialement. « L'IA affectera la vie de millions de personnes, c'est pourquoi les règles de son utilisation doivent être déterminées par la société », déclare M. Wörsdörfer.

« L'IA peut nous amener à notre destination plus rapidement et plus efficacement, mais sans les bonnes garanties, elle nous met en danger », déclare Küsters. « Nous devons agir maintenant pour garantir que ce moteur fonctionne en toute sécurité, de manière éthique et conformément aux valeurs démocratiques à l'avenir ». D'un point de vue technique, cela peut être garanti par ce que l'on appelle des messages-guides ou des méthodes telles que l'apprentissage non supervisé.