J’en perds mon latin…
Mon questionnement sur l’IA est de plus en plus pressant et les réponses de moins en moins compréhensibles pour un cerveau qui a plus de passé enregistré, que de présent analysé et futur envisagé.
L’article que je viens de parcourir m’éclaire d’une obscurité effrayante je l’avoue, voilà l’histoire…voir https://www.nature.com/articles/d41586-024-02420-7?utm_source=Live+Audience&utm_campaign=b2b126e7ea-nature-briefing-daily-20240725&utm_medium=email&utm_term=0_b27a691814-b2b126e7ea-49232047
L’IA est un système programmé qui analyse les données qui sont mises à sa disposition par les ingénieurs. Ces données sont bien entendu incomplètes en particulier pour les plus anciennes et les plus récents. Dans certains cas elles sont « sélectionnées » par les ingénieurs pour des raisons diverses et variées.
Si une IA reçoit une question, elle donne une réponse qui est donc associée à un certain pourcentage d’erreurs puisque les données de départ sont incomplètes…
ça va jusque-là ? j’arrive à comprendre donc vous aussi hein ?
Les résultats qui intègrent une « petite erreur » font désormais partie des données qui permettent à l’IA de répondre aux questions posées, c’est logique non ?
Alors tandis que les données en partie erronées issues de l’IA s’accumulent, plus la partie des données uniquement issues des humaines diminue.
Comme l’IA sélectionne certaines données pour apporter une réponse aux questions, ceci implique que les données les plus sélectionnées seront de plus en plus prise en considération par l’IA puisqu’elle va utiliser les données en question pour répondre aux nouvelles questions…
Et c’est là que l’effondrement des modèles arrive !!!
J’ignorais ce concept qui est finalement la version informatique du « cercle vicieux » humain !! Vous avez le truc qui fait qu’on tourne de plus en plus en rond avec ses biais cognitifs et autres erreurs d’analyse…
Le hic c’est que ce cercle vicieux va s’appliquer à TOUTES les personnes qui vont questionner l’IA…
Ça vous question ? alors allez lire en détail l’article qui en parle en détail…
Je comprends mieux pourquoi certains grands cerveaux qui connaissent bien l’IA s’inquiètent.
Les seuls qui sont tranquilles avec ce souci sont ceux qui s’enrichissent sur notre dos avec l’outil IA…
Après nous le déluge non ?!
Ce que j’en dis
