Salut à tous,
Ces derniers temps, vous êtes plusieurs à nous signaler des réponses publiées dans la rubrique Questions qui sont assez étranges.
En effet, le language est propre, la réponse a du sens par rapport à la question, mais dans le fond, il y a toujours un petit quelque chose qui fait que ça ne sent pas la transpiration d'un être humain. Ca sent le GPT quoi ... mais c'est pas si évident d'en être catégorique non plus.
Pour le moment, c'est moins d'une dizaine de cas, qui ont été rélévés ces derniers mois. Mais il y a à chaque fois quelques points communs :
- Le compte est assez récent
- Le compte n'avait jamais rien publié
- Le compte a été crée avec un IP "géolocalisée" à Paris
- L'IP de création du compte est toujours référencée comme "SPAM" par CleanTalk.
- L'adresse email du compte présente un nom/prénom souvent très différent du pseudo
- Le nom du compte est souvent dans le format PrenomXXX où XXX est un nombre
Bref, dans ces réponses, il n'y a pas de lien, pas plus que sur la page du compte. Il n'y a pas non plus une quelconque promotion pour un produit ou un service. Juste une réponse assez généraliste.
J'ai donc un peu de mal à voir la motivation de créer ce genre de bot.
A vous chers humains, quel est votre avis ?
Et à toi cher "robot", quel est ton avis ?
Un petit exemple :
21 réponses
Je ne sais pas si cela à le même objectifs, mais j'ai déjà eu ce genre de message un peu bizarre sur les sites que je gère.
L'idée est d'éditer le message quelques temps après, pour placer des liens. Histoire que la modération ne visualise pas le lien.
Les derniers c'était avant ChatGPT donc un peu moins bien écrit.
J'ajoute comme caractéristiques de la structure des réponses du robot qu'elles sont très divisées point par point quand la question en comporte plusieurs, que le vouvoiement est systématiquement employé (même si ce n'est pas spécifique aux robots, etiennedesthuilliers l'utilise aussi), et surtout la réponse est toujours trop générale par rapport aux attentes. Je me souviens typiquement de formules comme "vous devez vous assurer que la section employée supportera la charge", alors que la question porte précisément sur la charge.
J'imagine que l'utilité potentielle serait de donner artificiellement de l'activité à un nom d'utilisateur relié à une adresse mail sur une plateforme dont les profils des membres sont visibles pour créer une identité moins facilement identifiable comme spam et être ensuite utilisée à des fins commerciales : faux avis favorables ou défavorables, commentaires et likes sur Youtube ou Facebook, voire plus inquiétant des commentaires ou des posts orientés politiquement publiés en masse sur des réseaux sociaux.
Peux-tu en dire plus sur l'adresse IP qui est derrière ces messages (via un whois) ? S'agit-il d'une adresse d'un FAI ? Un serveur dédié chez un hébergeur ? Un vpn ?
Aussi, ça peut être intéressant de regarder les logs HTTP du serveur et de filtrer cette adresse IP pour tenter de comprendre si il s'agit d'une vraie personne qui poste un message généré par une IA manuellement ou si il s'agit d'un bot qui fait ça de manière automatique. Tu peux pour cela regarder le temps qui s'écoule entre le chargement de deux pages ou le temps entre le chargement d'une page et le submit du formulaire qui a permis de poster le message...
Bonsoir à tous,
En voilà une question bien futuriste... Mais bien réelle.
L'IA se "nourrit" d'humain, ou en tout cas de ses réactions, comme le banal exemple du captcha, il y a donc de forte chance qu'elle analyse tout les contenus et réponses apportées à cette question!
On sera ensuite triés par affinité ou non à la modernité, les plus radicaux seront sûrement fichés S, les autres pourront sans doute aller faire des copeaux tranquilles aux outils à mains quelques temps encore.
Dommage que ça se mange pas ça nous aurait peut-être sauvés dans quelques années.
Comme la législation en la matière n'arrivera que dans 10 ans au mieux, va falloir s'habituer et relire K Dick..
Salut à tous,
Je comprends votre confusion concernant ces réponses étranges et je partage votre curiosité. Il est vrai que plusieurs factors que vous avez mentionnés peuvent suggérer une activité de bot, comme la réponse générale et sans lien, l'IP géolocalisée à Paris et classée comme spam, ainsi que l'adresse e-mail avec un nom/prénom différent du pseudonyme.
Cependant, il est important de noter que les modèles d'intelligence artificielle comme GPT peuvent parfois produire des réponses qui sont très proches de celles d'un humain. Il est donc possible que certaines de ces réponses aient été écrites par des utilisateurs humains, même si l'ensemble des caractéristiques cumulées suggère une activité de bot.
Il est difficile de déterminer avec certitude si ces comptes sont gérés par des bots ou des humains sans une analyse plus approfondie. Si vous avez des préoccupations concernant ces comptes, il est toujours judicieux de suivre les directives de modération de la plateforme et d'informer les modérateurs si nécessaire.
Quant à la motivation derrière ces comptes, il est possible qu'ils soient liés à des tentatives de manipulation ou de réputation, où l'objectif est de semer le doute ou de brouiller les cartes sans vendre de produits ou services. Cela dit, il est important de maintenir une approche analytique et équilibrée pour ne pas surestimer la menace.
Oui je pense la même chose que SebD : un moyen pour ces comptes artificiels de se construire une légitimité et pouvoir poster de la pub après.
On pourrait les passer au détecteur de Chat GPT mais il faut 600 caractères mini, donc la miss Dubai de Copeaux d'aronde ne passe pas.
edit: autant pour moi pour la fiabilité
j'en ai vu un avec un lien vers un site marchand dans le profil. pareil, dur de dire si c'est vraiment un bot, mais en même temps ça semble surfait pour un humain. et complètement improbable, réponse à une question enterrée depuis plusieurs années par un truc pertinent, mais aussi un petit peu à coté de la plaque. et ça m'a aussi interrogé, et un petit peu effrayé, sur le futur d'internet... peut être un jour entièrement peuplé d'IAs échangeant des informations recyclées entre elles...
J'avais vu cette "réponse" apparue sur une ancienne question. Elle est effectivement un peu étrange. Ce qui est étonnant c'est que l'IP soit blacklistée. Celà ne cadre pas avec une étude sur une IA. Etude qui serait "cachée".
L'idée des tests est quand même plausible.
Une tentative de hameçonnage serait encore plus surprenante au vu du niveau de langage et de la "technicité" de la réponse. La réponse ne parle cependant pas le point important : le fait qu'il manque le contreventement latéral. On peut donc supposer que seul le texte a été pris en compte et pas les images. Celà accréditerait la thèse d'une IA.
Je dirais donc une étude sur les IA mais une étude non officielle ou un geek qui s'amuse avec une IA.
Attention que derrière ce ne soit pas une action à plus long terme visant à donner du crédit à des comptes pour endormir la méfiance et passer ensuite à des actions plus néfastes. Hameçonnage ou déni de service ou autre.