samedi 3 décembre 2022



Les scientifiques sont impuissants face à l'intelligence artificielle

mardi 8 novembre 2022
Les scientifiques sont impuissants face à l'intelligence artificielle||||| Les scientifiques sont impuissants face à l'intelligence artificielle||||| |||||

Daily Times:- Avec cette dépendance croissante, les systèmes d'IA continuent d'évoluer si rapidement que les scientifiques ne sont plus en mesure d'expliquer ou d'expliquer son fonctionnement.

Les personnes qui développent l'IA ont de plus en plus de mal à expliquer son fonctionnement et à déterminer pourquoi elle donne certains résultats, parfois inattendus.

Les réseaux de neurones DNN-Deep, les nombreuses couches de systèmes de traitement de données que les scientifiques y ont intégrés pour imiter les réseaux de neurones du cerveau humain, semblent souvent refléter non seulement l'intelligence humaine, mais aussi une incapacité à expliquer comment cela se fait. fonctionnement du cerveau humain.

Boîte noire IA

La plupart des systèmes d'intelligence artificielle fonctionnent d'une manière appelée "boîte noire", qui sont des systèmes qui ne sont exposés qu'en termes d'entrées et de sorties, mais les scientifiques n'essaient pas de déchiffrer cette "boîte noire", ou les processus mystérieux effectués par le système, tant qu'ils reçoivent les sorties qu'ils recherchent.

Par exemple, si vous fournissez des données d'IA sur chaque saveur de crème glacée et des données démographiques sur les facteurs économiques, sociaux et de style de vie de millions de personnes, vous pouvez probablement deviner votre saveur de crème glacée préférée ou où vous préférez la manger et dans laquelle glacier, même s'il n'est pas programmé à cet effet.

Ces types de systèmes d'IA sont connus pour certains problèmes, car les données sur lesquelles ils sont formés sont souvent intrinsèquement biaisées, imitant les préjugés raciaux et sexistes qui existent au sein de notre société.Par exemple, l'IA identifie souvent de manière disproportionnée les Noirs grâce à la technologie de reconnaissance. Visage.

L'intelligence artificielle devient de plus en plus complexe

Au fil du temps, ces systèmes deviennent difficiles à réparer en partie parce que leurs développeurs ne peuvent souvent pas expliquer pleinement leur fonctionnement, ce qui rend le problème difficile.

Alors que les systèmes d'IA deviennent plus complexes et que les humains deviennent moins capables de les comprendre, les experts en IA et les chercheurs en développement avertissent de prendre du recul et de se concentrer davantage sur comment et pourquoi l'IA produit certains résultats plutôt que de savoir que le système peut les produire avec précision et rapidité. .

L'intelligence artificielle surpasse ses développeurs

Il est rapporté que des systèmes d'intelligence artificielle ont été utilisés dans les voitures autonomes et les chatbots pour le service client et le diagnostic des maladies, et ils ont la capacité d'effectuer certaines tâches mieux que les humains.

Par exemple, une machine est capable de se souvenir d'un billion d'éléments, tels que des chiffres, des lettres et des mots, par rapport aux humains, qui s'en souviennent en moyenne de sept dans leur mémoire à court terme, et est également capable de traiter et de calculer des informations plus rapidement et plus rapidement.

un taux amélioré que les humains, mais à mesure que les processus évoluent Comme les modèles d'IA sont devenus capables de le faire, la capacité de leurs développeurs à expliquer comment ils fonctionnent a diminué au fil du temps.

Le risque est que le système d'IA puisse prendre des décisions en utilisant des valeurs avec lesquelles nous ne sommes peut-être pas d'accord, comme des décisions biaisées (comme le racisme ou le sexisme).

Un autre risque est que le système puisse prendre une très mauvaise décision, mais nous ne pouvons pas intervenir car nous ne comprenons pas ses causes, a déclaré Jeff Clone, professeur agrégé d'informatique à l'Université de la Colombie-Britannique.

 

Évaluer cet élément
(0 Votes)