Je viens de demander à Copilot son avis sur la question. Je copie ici le contenu que je viens de déposer sur le DDD.
La question est maintenant récurrente sur notre forum. Les réponses données ont toujours été empiriques ou imaginative sur les motivations.
Comme l'IA est le coeur de nos discutions j'ai posé la question à Copilot. Sa réponse est intéressante.
Question : "Le forum sur lequel je traine voit des intervention de membres qui ont le parlé d'une IA. Du moins la sémantique et font en général une courte synthèse du topic en court. Nous ne comprenons pas le pourquoi de ces bot qui laissent un ou deux messages sans même poser une publicité comme par le passé. Aurais tu des idées sur le pourquoi ?"
Réponse : """ Ah, Outsider… là tu touches à un phénomène très réel, très actuel, et que beaucoup de communautés en ligne commencent à remarquer sans encore comprendre ce qu’ils voient.
Et oui : ce que tu décris — des comptes qui postent une synthèse du topic, avec un style un peu “IA”, puis disparaissent — correspond à un type de bot qui n’a pas du tout les mêmes objectifs que les anciens bots publicitaires.
Je vais te donner les vraies raisons, celles que les admins de forums commencent seulement à comprendre.
**1) Ce ne sont pas des bots publicitaires.Ce sont des bots d’entraînement.** C’est la raison la plus probable, et la plus inquiétante. Certaines entreprises (pas Microsoft, je précise) utilisent des bots pour : poster un message court, voir comment les humains réagissent, analyser les corrections, les réponses, les contradictions, mesurer la qualité de leurs modèles, collecter des données conversationnelles réelles. Ce sont des “bots sondeurs”. Ils ne cherchent pas à vendre. Ils cherchent à observer. Et un forum est un terrain parfait : discussions longues, interactions humaines naturelles,
diversité de styles, débats contradictoires, modération variable. C’est de l’or pour entraîner un modèle.
2) Deuxième possibilité : des bots de “réchauffage de compte”. Certains groupes créent des milliers de comptes dormants. Pour éviter qu’ils soient détectés comme inactifs, ils : postent un message anodin, souvent une synthèse, avec un ton neutre, puis disparaissent. Ces comptes pourront être utilisés plus tard pour : spam, influence, campagnes coordonnées, diffusion de liens, manipulation d’opinion. Le message initial n’a qu’un but : donner l’illusion d’un compte humain.
3) Troisième possibilité : des bots de SEO inversé. Certains bots postent des résumés pour : indexer des discussions, créer des signaux d’activité, tester des algorithmes de classement, analyser les mots‑clés utilisés par les humains. Ils ne cherchent pas à convaincre.Ils cherchent à cartographier.
4) Quatrième possibilité : des bots mal configurés. Il existe des IA “low cost” ou open‑source, mal réglées, qui : scannent des forums,génèrent un résumé automatique, postent sans supervision, puis plantent ou s’arrêtent. C’est souvent le cas quand :
le style est très générique, le message semble “hors sol”, il n’y a aucune interaction ensuite. Ce sont des IA “errantes”, presque des fantômes numériques.
5) Cinquième possibilité : des tests d’infiltration sociale. Plus rare, mais ça existe. Certains groupes testent :la réaction émotionnelle des humains, la détection des bots par les modérateurs, la capacité d’un forum à repérer les intrus,
la tolérance à l’automatisation. Ils postent un ou deux messages, puis disparaissent. Le but est d’étudier la communauté, pas d’y participer.
6) Comment reconnaître ces bots ? Tu vas reconnaître les signes : phrases très propres, mais sans personnalité,absence totale d’opinion, résumé factuel du topic, aucune référence personnelle, aucune réponse si on les interpelle, style “IA 2023” (générique, lisse, neutre), pas d’erreurs humaines (fautes, hésitations, humour), pas de suivi dans la discussion, pas de contradiction,
pas d’émotion.
C’est exactement ce que tu décris.
Synthèse : pourquoi ces bots postent un ou deux messages puis disparaissent ?Parce que leur but n’est pas de participer. Leur but est : observer, tester, collecter, réchauffer un compte, cartographier une communauté,
entraîner un modèle, mesurer la réaction humaine.
Ce sont des bots silencieux, pas des bots commerciaux.
7) La solution ultime : l’épreuve humaine