L'intelligence artificielle, qui joue un rôle très important dans l'amélioration du niveau de confort de l'humanité, est soupçonnée de menacer l'humanité à l'avenir.
Affirmant que la troisième étape a été franchie grâce aux robots autonomes, en particulier sur les champs de bataille, les experts soulignent que les organisations internationales telles que l'ONU et Human Rights Watch ont d'importantes responsabilités pour empêcher l'émergence de scénarios négatifs et pour garantir que l'intelligence artificielle continue à contribuer à la vie humaine et à la vie tout court.
Türker Tekin Ergüzel, directeur du département de génie logiciel de l'université d'Üsküdar, a déclaré que l'intelligence artificielle est largement utilisée dans les domaines qui augmentent le niveau de confort de l'humanité, l'optimisation des ressources existantes, l'informatique de la santé et les approches de solutions d'ingénierie.
Türker Tekin Ergüzel a déclaré que les systèmes basés sur des logiciels avec des performances de traitement plus rapides, qui sont fondamentalement basés sur l'apprentissage humain et les mécanismes de prise de décision, peuvent être définis comme des systèmes d'intelligence artificielle et a déclaré : "Cependant, ce développement de systèmes d'intelligence artificielle, qui peuvent développer une volonté qui peut entrer en conflit avec la volonté humaine, et sa transformation en un produit militaire et armé qui deviendra bientôt un danger pour l'humanité, amène à s'interroger sur l'avenir de l'intelligence artificielle dans un avenir proche."
Un appel a été lancé à l'ONU concernant les risques liés à l'intelligence artificielle.
Türker Tekin Ergüzel, professeur associé, a déclaré : "Environ deux ans après l'attribution du prix Nobel de la paix, l'intelligence artificielle est devenue un sujet de préoccupation :
"Environ deux ans après que le physicien Stephen Hawking, lauréat du prix Nobel, a averti que l'intelligence artificielle, l'une des réalisations les plus importantes de l'humanité, "pourrait être la dernière réalisation de la race humaine" si elle ne peut pas être contrôlée, 116 experts, dont le fondateur de SpaceX, Elon Musk, et des noms importants dans le monde, ont de nouveau attiré l'attention sur les risques possibles de l'intelligence artificielle. Dans leur appel aux Nations Unies, ils ont attiré l'attention sur le fait que le développement de robots autonomes et de systèmes utilisant l'intelligence artificielle a atteint des niveaux dangereux et que l'humanité pourrait faire face à des dangers irréversibles".
Les systèmes militaires sont entrés dans la troisième phase
Türker Tekin Ergüzel a déclaré que les systèmes militaires sont entrés dans la troisième phase avec le développement des armes nucléaires, après les armes militaires développées avec la découverte de la poudre à canon et les systèmes militaires autonomes qui ont émergé par la suite, et a déclaré : "Nous constatons que les États-Unis, le Royaume-Uni, la Corée du Sud et Israël sont à la tête du développement des systèmes militaires. Certaines des mitrailleuses produites peuvent analyser en permanence l'environnement, détecter les sons et les images et tirer "lorsque cela est jugé nécessaire". De même, Taranis, développé par la Royal Air Force britannique, est un IHA armé entièrement autonome. L'avion, qui peut envoyer des missiles air-air ou au sol grâce à son algorithme de prise de décision, devrait remplacer les avions de chasse Tornado G4 en 2030".
Les systèmes de combat autonomes sont une menace majeure pour l'avenir
Soulignant que le fait que des systèmes de combat autonomes seront développés dans les années à venir et seront utilisés dans les régions frontalières ou dans les opérations militaires en éliminant le facteur humain du circuit entraînera de grands risques, le professeur adjoint Dr Türker Tekin Ergüzel a fait les évaluations suivantes
"Le piratage des logiciels installés sur les systèmes autonomes, les armes autonomes tombant entre les mains d'organisations terroristes et les armes autonomes passant à leurs propres processus de prise de décision dans l'étape suivante et échappant au contrôle humain peuvent être des risques tout à fait possibles au cours du siècle prochain. Les guerres entre pays pourraient se généraliser avec l'introduction de systèmes de défense autonomes, et l'espace pour les processus de consultation et de réconciliation, qui sont actuellement menés dans le cadre de la politique entre pays, deviendra encore plus étroit. De même, en raison de contraintes telles que la défaillance du système ou l'intervention humaine limitée, la question de savoir qui est responsable de la résolution des problèmes en termes de droit militaire de la guerre et de politiques militaires se posera également. Au lieu d'un mécanisme capable de prendre des décisions adaptatives, de faire preuve de volonté et d'utiliser l'intelligence émotionnelle dans ses décisions, une approche axée sur les résultats instantanés et le pouvoir mettra en danger la vie sur terre".
Des mesures doivent être prises au niveau international
Türker Tekin Ergüzel a déclaré que les organisations internationales telles que l'ONU et Human Rights Watch ont des obligations importantes afin de prévenir l'émergence d'éventuels scénarios négatifs et de veiller à ce que l'intelligence artificielle continue à contribuer à la vie humaine et à la vie vivante, à mettre fin aux maladies, aux guerres et à la pauvreté. Türker Tekin Ergüzel a souligné que même s'il est peu probable que les armes autonomes soient directement interdites ou incluses dans le champ d'application du contrôle des armements, une définition précise devrait d'abord être faite pour les systèmes d'armes autonomes. Lors de l'étape suivante, dans les processus de développement des logiciels de ces systèmes, il a souligné que le processus de définition des tâches militaires pour les robots et la détermination des limites des tâches définies devraient être définis par le consortium international qui doit être établi au sein de l'ONU.