Salut à tous,
Ces derniers temps, vous êtes plusieurs à nous signaler des réponses publiées dans la rubrique Questions qui sont assez étranges.
En effet, le language est propre, la réponse a du sens par rapport à la question, mais dans le fond, il y a toujours un petit quelque chose qui fait que ça ne sent pas la transpiration d'un être humain. Ca sent le GPT quoi ... mais c'est pas si évident d'en être catégorique non plus.
Pour le moment, c'est moins d'une dizaine de cas, qui ont été rélévés ces derniers mois. Mais il y a à chaque fois quelques points communs :
- Le compte est assez récent
- Le compte n'avait jamais rien publié
- Le compte a été crée avec un IP "géolocalisée" à Paris
- L'IP de création du compte est toujours référencée comme "SPAM" par CleanTalk.
- L'adresse email du compte présente un nom/prénom souvent très différent du pseudo
- Le nom du compte est souvent dans le format PrenomXXX où XXX est un nombre
Bref, dans ces réponses, il n'y a pas de lien, pas plus que sur la page du compte. Il n'y a pas non plus une quelconque promotion pour un produit ou un service. Juste une réponse assez généraliste.
J'ai donc un peu de mal à voir la motivation de créer ce genre de bot.
A vous chers humains, quel est votre avis ?
Et à toi cher "robot", quel est ton avis ?
Un petit exemple :
Mis à jour
21 réponses
Je ne sais pas si cela à le même objectifs, mais j'ai déjà eu ce genre de message un peu bizarre sur les sites que je gère.
L'idée est d'éditer le message quelques temps après, pour placer des liens. Histoire que la modération ne visualise pas le lien.
Les derniers c'était avant ChatGPT donc un peu moins bien écrit.
Ça me semble une des options les plus probables.
Mettre un message valable et venir l’éditer ensuite.
C’est malin. Je vais chercher une parade …
Après une petite recherche sur les autres comptes qui pourraient avoir des caractéristiques similaires, j'en trouve d'autres. 1 réponse et réponse éditée pour y coller un lien.
Ca confirme fort cette hypothèse de la fourberie de mettre des messages pour aller chercher ensuite du backlink.
C'est malin, même si ça semble long et fastidieux ... j'espère pour eux qu'ils ont automatisé ça.
Mais ça va pas être si facile à traquer ... 
C'est moche...
Si un message est édité et qu'un lien est ajouté, alors envoi automatique d'un message à la cale à poncer ?
Je ne sais pas quel volume ça peut représenter, mais ça peut peut-être avoir un effet dissuasif...
peut-être que le plus simple c'est un traquage "manuel", puisque pour un humain c'est assez facile à déceler ? un petit bouton pour dire qu'on suspecte un bot, et si suffisamment de personnes signalent, ça met le message de coté, avec un besoin du posteur de revalider au cas ou il était vraiment humain? mais ça repose un paquet de problèmes en chaine derrière évidemment...
ha ben, on en apprend tous les jours :) je vais commencer à l'utiliser alors, si l'occasion se présente !
finalement on peut dire que c'est un bot qui rapporte de l'argent a son concepteur en fonction du nbre d'ouvertures des liens de ses clients a lui
donc si en mode modifier lors de l' ajout d' un lien internet, les boiseux doivent se taper un captcha, c'est un peu embêtant mais pourquoi pas (je ne sais pas ce que ca peut représenter a mettre en place, c'est peut être plus simple de ne rien faire mais activement, c'est vrai qu'une fois sensibilisés on a plus envie d'utiliser le bouton signaler) edit rien ne dit que ce n'est pas modifié
manuellement, c'est embêtant
re Edit nous avons les collections, on pourrait monter une collection de question douteuses , ainsi en vérifiant les modifs suspectes dans ces questions et réponses , le signalement et suivi est accessible pour la communauté, si c'est géré par un modo et sans messages de haines, c'est juste de la veille et du nettoyage
C'est à mon sens très certainement modifié manuellement. J'ai désactivé 22 comptes, tous avec le même mode opératoire avec 1 ou 3 réponses publiées et rien d'autre. Et pour les plus anciennes elles ont été modifiées pour y ajouter un lien. Le dernier avait été créé hier le plus vieux vu au mois d'avril. Il y en aura donc d'autres rapidement. (Et il seront surement plus malin, pke j'ai annoncé ici ce qu'on a trouvé)
Je suis persuadé que le lien n'est pas pour nous humains. Si on clique dessus tant mieux. Mais c'est à mon avis surtout pour du backlink pour booster une position dans un moteur de recherche. (si c'est bien ça, ça reste finalement pas si futuriste que ça ...)
Ca ressemble fort à du travail d'humain qui bosse pour des robots ça.
Si c'était automatisé, il y aurait à mon avis plus de cas. (C'est fort possible aussi que j'ai pas tout retrouvé)
Voici une liste non exhaustive des sites que j'ai pu voir.
Boris Beaulant merci je viens de faire un re edit pdt que tu répondais, désolé, je ne suis pas un robot 
nous avons les collections, on pourrait monter une collection de question douteuses
Ca serait jouer leur jeu et leur donner de la visibilité. Le mieux est de les signaler, derrière, on peut faire des corrélations et les supprimer s'il faut.
Boris Beaulant est-ce que tu pourrais paramétrer tous les liens de commentaires en no-follow? Peut être que ça sera détecté par leur système
lolohayoz c’est une idée. Mais ça priverait aussi les sites qu’on aurait envie de mettre dans la boucle.
Salut.
Il s’entraîne. Ou du moins quelqu’un s’entraîne avec lui. Je pense que les posts sont envoyés au hasard sur l’adb ou ailleurs. Ce sont les prémices d’autres chose je crois.
Des fois ces comptes se "créent une légitimité" pendant un certain temps pour passer les contrôle robotisés de google par exemple.
Je l'ai dit ailleurs mais perso si j'étais dans une gsb je tenterai ce genre d'apprentissage pour créer un robot de conseil en bricolage pour augmenter ma visibilité. Ça répondrai à des questions du genre "je veux faire un plateau de table super protégé mais donc la couleur resterai naturelle sans jamais bouger" et le robot répondrai plein de trucs sensés et au milieu il glisserai une pour 2 références présentes en magasin...
J'ajoute comme caractéristiques de la structure des réponses du robot qu'elles sont très divisées point par point quand la question en comporte plusieurs, que le vouvoiement est systématiquement employé (même si ce n'est pas spécifique aux robots, etiennedesthuilliers l'utilise aussi), et surtout la réponse est toujours trop générale par rapport aux attentes. Je me souviens typiquement de formules comme "vous devez vous assurer que la section employée supportera la charge", alors que la question porte précisément sur la charge.
J'imagine que l'utilité potentielle serait de donner artificiellement de l'activité à un nom d'utilisateur relié à une adresse mail sur une plateforme dont les profils des membres sont visibles pour créer une identité moins facilement identifiable comme spam et être ensuite utilisée à des fins commerciales : faux avis favorables ou défavorables, commentaires et likes sur Youtube ou Facebook, voire plus inquiétant des commentaires ou des posts orientés politiquement publiés en masse sur des réseaux sociaux.
Moi je verrai une utilisation moins machiavélique et plus commerciale comme un site de gsb ou de vente de matériel qui aurait un robot pour donner des conseils et générer du trafic sur son site voire même une communauté de bricoleurs.
Bonjour,
Une bonne grosse faute d'orthographe permettrait de différencier aisément ....
C'est ma teknique préférée, je ne manke jamais de l'employer.
Enfin, c'est ce que je vais dire dorénavant.
Il en a juste marre de passer sa journée avec des développeurs et il veut devenir menuisier-ébéniste… Ce ne serait peut-être pas le premier 
Non et comme la plupart, il ne vend rien, pour le moment et, il s’entraîne.
Raoul222, avec un pseudo comme ça, tu ne serais pas un robot toi aussi ?! 
La paranoïa s'installe, c'est ça leur véritable objectif !
Peux-tu en dire plus sur l'adresse IP qui est derrière ces messages (via un whois) ? S'agit-il d'une adresse d'un FAI ? Un serveur dédié chez un hébergeur ? Un vpn ?
Aussi, ça peut être intéressant de regarder les logs HTTP du serveur et de filtrer cette adresse IP pour tenter de comprendre si il s'agit d'une vraie personne qui poste un message généré par une IA manuellement ou si il s'agit d'un bot qui fait ça de manière automatique. Tu peux pour cela regarder le temps qui s'écoule entre le chargement de deux pages ou le temps entre le chargement d'une page et le submit du formulaire qui a permis de poster le message...
Bonsoir à tous,
En voilà une question bien futuriste... Mais bien réelle.
L'IA se "nourrit" d'humain, ou en tout cas de ses réactions, comme le banal exemple du captcha, il y a donc de forte chance qu'elle analyse tout les contenus et réponses apportées à cette question!
On sera ensuite triés par affinité ou non à la modernité, les plus radicaux seront sûrement fichés S, les autres pourront sans doute aller faire des copeaux tranquilles aux outils à mains quelques temps encore.
Dommage que ça se mange pas ça nous aurait peut-être sauvés dans quelques années.
Comme la législation en la matière n'arrivera que dans 10 ans au mieux, va falloir s'habituer et relire K Dick..
Salut à tous,
Je comprends votre confusion concernant ces réponses étranges et je partage votre curiosité. Il est vrai que plusieurs factors que vous avez mentionnés peuvent suggérer une activité de bot, comme la réponse générale et sans lien, l'IP géolocalisée à Paris et classée comme spam, ainsi que l'adresse e-mail avec un nom/prénom différent du pseudonyme.
Cependant, il est important de noter que les modèles d'intelligence artificielle comme GPT peuvent parfois produire des réponses qui sont très proches de celles d'un humain. Il est donc possible que certaines de ces réponses aient été écrites par des utilisateurs humains, même si l'ensemble des caractéristiques cumulées suggère une activité de bot.
Il est difficile de déterminer avec certitude si ces comptes sont gérés par des bots ou des humains sans une analyse plus approfondie. Si vous avez des préoccupations concernant ces comptes, il est toujours judicieux de suivre les directives de modération de la plateforme et d'informer les modérateurs si nécessaire.
Quant à la motivation derrière ces comptes, il est possible qu'ils soient liés à des tentatives de manipulation ou de réputation, où l'objectif est de semer le doute ou de brouiller les cartes sans vendre de produits ou services. Cela dit, il est important de maintenir une approche analytique et équilibrée pour ne pas surestimer la menace.
Bien sûr, ça va devenir difficile de démêler le vrai du faux d'ici quelques mois, tellement les "progrès" sont fulgurants (et encore on ne sait rien des équivalents chinois qui vont déferler bientôt)
Sans doute ne restera-t'il que la déconne, le second-degré ou l'implicite pour nous reconnaître entre humains… 
L'administrateur d'aujourd'hui doit être "conscient de la tâche morale qui lui incombe ... et surtout qui lui décombe".
Oui je pense la même chose que SebD : un moyen pour ces comptes artificiels de se construire une légitimité et pouvoir poster de la pub après.
On pourrait les passer au détecteur de Chat GPT mais il faut 600 caractères mini, donc la miss Dubai de Copeaux d'aronde ne passe pas.
edit: autant pour moi pour la fiabilité 
Humm des robots, chouette on va pouvoir échanger des sacs de copeaux contre des bouteilles de whisky
j'en ai vu un avec un lien vers un site marchand dans le profil. pareil, dur de dire si c'est vraiment un bot, mais en même temps ça semble surfait pour un humain. et complètement improbable, réponse à une question enterrée depuis plusieurs années par un truc pertinent, mais aussi un petit peu à coté de la plaque. et ça m'a aussi interrogé, et un petit peu effrayé, sur le futur d'internet... peut être un jour entièrement peuplé d'IAs échangeant des informations recyclées entre elles...
Celui ci c'est clairement du spam. Chat GPT ou pas je ne saurai dire mais étant modo sur un autre forum ça fait partie des thèmes qu'on voit régulièrement tenter le spam.
Le pire c'est qu'ils progressent (les spammeurs humains autant que les bots)
je me dis que c'est peut être aussi un projet étudiant, un exercice pour apprenti codeur. Créer un bot qui sans être malfaisant va poster une réponse automatisée et "pertinente" sur un gentil forum d'entraide. juste une pour ne pas flooder inutilement, avec un format clair pour le nom, histoire de pouvoir les reconnaître. Sur un site avec des questions techniques, pour lesquels il est relativement facile mais quand même intéressant de faire trouver au bot une réponse toute faite.
Dans ce cas tu contactes l'admin du site, tu le fais avec son accord voire en collaboration avec lui, tu essayes pas de le cacher, ça parait étrange, surtout pour un projet étudiant !(bonjour la réputation pour l'école après...)
Lani Jhecem c'est vrai ça semble un peu capillotracté, surtout de la part d'une structure d'enseignement. après avoir vu les liens arriver en edit, l'idée de poser des liens pour faire du référencement me semble bien plus plausible. pour enseigner on a une éthique, mais pour de l'argent on peut facilement la mettre de côté.
Ça pourrait être 1 individu/entreprise qui voudrait monter un système d'aide en menuiserie/charpente et qui donc s'entrainerait en accumulant des connaissances via les questions... Donc pas ChatGPT mais un truc pas mal plus spécifique.
Comme je l'ai dit plus haut en commentaire à Copeaux d'aronde, ce genre de pratique me paraîtrait très douteuse sans l'accord des gestionnaires du site. L'idée pourrait possiblement être intéressante (ou en tous cas c'est dans l'air du temps, après on est d'accord ou non avec ça, mais c'est un autre vaste sujet :D ), mais dans ce cas tu le fais pas en louzdé, tu essayes pas de berner les gens en te faisant passer pour une vraie personne.
Et surtout, tu en profites pour potentiellement travailler de concert avec les dévs du site, on pourrait imaginer qu'ils te donnent accès à une API pour faciliter ton travail si le projet leur semble pertinent, etc.
My 2 cents en tous cas
P.S: désolé pour le downvote, je l'enlèverai et mettrai un simple commentaire si tu préfères ^^
C'est pas grave pour le -1. Faut pouvoir s'exprimer et c'est important de pouvoir signaler qu'on n'est pas d'accord autrement ça ne sert à rien... En fait, ici on s'en rend compte mais il y a plein d'endroits où tout ce qu'on peut écrire est utilisé sans notre accord. Je suis tout à fait d'accord avec le principe de demander l'autorisation avant mais bon on ne vit plus trop dans un monde de bisounours ;(
Bonsoir,
J'ai une popostiion:
Rajouter Intelligence Artificielle comme type de compte ...
Votre question a du sens, mais je ne suis pas en mesure d'y répondre précisément. Pourriez vous la reformuler ?
stefdefoot Votre commentaire a du sens, mais je ne suis pas en mesure de pouvoir le confirmer. Il me faudrait des informations complémentaires.
Je vous remercie de vos commentaires mais il est convenu de considérer que les Intelligences Artificielles ne savent pas pratiquer l'ironie ou le second degré. En conséquence, il semblerait que je ne sois pas une Intelligence Artificielle. IL me faudrait cependant un peu plus de recherches dans la Documentation pour le prouver définitivement. Si vous me posez d'autres questions, je pourrai faire une recherche complémentaire.
Bonjour Boris,
As-tu essayé de questionner les intervenants par MP pour voir leurs réponses ?
As tu essayé aussi de contacter les admins d'autres forums d'artisans et bricoleurs (type usinages, copain des copeaux pu metabricoleur) pour savoir s'ils avaient des posts de ce genre ?
J'avais vu cette "réponse" apparue sur une ancienne question. Elle est effectivement un peu étrange. Ce qui est étonnant c'est que l'IP soit blacklistée. Celà ne cadre pas avec une étude sur une IA. Etude qui serait "cachée".
L'idée des tests est quand même plausible.
Une tentative de hameçonnage serait encore plus surprenante au vu du niveau de langage et de la "technicité" de la réponse. La réponse ne parle cependant pas le point important : le fait qu'il manque le contreventement latéral. On peut donc supposer que seul le texte a été pris en compte et pas les images. Celà accréditerait la thèse d'une IA.
Je dirais donc une étude sur les IA mais une étude non officielle ou un geek qui s'amuse avec une IA.
Attention que derrière ce ne soit pas une action à plus long terme visant à donner du crédit à des comptes pour endormir la méfiance et passer ensuite à des actions plus néfastes. Hameçonnage ou déni de service ou autre.
Est-ce qu'il ne s'agirait pas simplement de "tester" ChatGPT afin de l'améliorer et de le rendre plus "Humain" pour l'avenir....
C'est une possibilité. Mais on reste quand même sur une visibilité des réponses qui est hyper réduite. On parle de quelques centaines de vues au max. Ca me semble un peu un gâchis de temps pour faire du test. Si c'est à ce rythme qu'un labo veut faire évoluer une IA, je comprends pas.
Tu n'as pas tord. Sauf si...
Quelques centaine de vues multiplié par des centaines voir milliers de forums...
Après je n'en sais rien. Je pense juste a ça et n'a pas vraiment d'autres explcations.
Il faut quand même s'attendre a une innondation a court/moyen terme.
La machine est en route
Certes la visibilité est pas énorme mais on a un système d'évaluation des réponses qui est intéressant pour ce genre d'évaluation et en plus c'est fait en aveugle par des gens qui ont des connaissances techniques plein de critères importants qui sont difficiles à réunir...
analyse du taux de réaction en face selon les paramètres de l'IA pour comprendre ce qui engendre la meilleure interaction humaine?
Non je pense pas qu'OpenAI passe par ici pour faire évoluer leur modèle linguistique alors qu'ils peuvent le faire évoluer avec toutes les questions que posent les utilisateurs sur leur propre site.
On peut tromper mille modérateurs une fois on peut tromper un modérateur mille fois mais peut-on tromper mille modérateurs mille fois ?
C’était juste pour faire avancer le débat.
je suis d'accord, c'est Chat qui a pondu le texte, suite a une question qui lui a été posée par "brice du net" qui est venu la coller sur Adb
pas de complot derrière ca, l'intéret pour Chat est nul
motivation bizarre de "Brice", essayons
Ego, brice veut participer et veut montrer a son entourage qu'il arrive a tromper des boss etc ou autre motivation blague bizare dans le genre
en tout cas il se donne du mal, tripoter dans des trucs spécifiques pour ne pas se faire repéré et tout et tout, c'est peut être un you tubeur qui veut monter une vidéo "j'ai trompé tout un forum avec chat"
bref du troll, celui qui poste autre chose qu'une réponse "personelle" doit le déclarer, déclarer ses sources, peu importe que ca soi copié d'un livre, d'un site internet ou d'une IA, copié collé ca doit être déclaré
d'ailleurs dans la définition de question, le champ est "ma réponse" donc brice ne peut pas poster pour quelqu'un d'autre sans nous en faire part
faut peut être le préciser précisément?
note que c'est bien d'en parler, faudrait pas non plus en faire tout un fromage et soupconner des utilisateurs qui s'exprimeraient un peu a coté sans le faire exprès, ca serait dommage.
Et sans m'enfoncer dans trop de questions réponses a moi même, je répondrais a la question pourquoi par "pourquoi pas?"
je trouve que c'est plutot bien qu'on puisse faire apparaitre le point de vue IA, dans les IA graphiques notament, elles peuvent faire des propositions très innovantes si on s'en emparre et qu'on en fait quelque chose de perso, plutot que de voir la main invisible partout je préfère remettre en question certaines certitudes pour peut être juste apporter un éclairage nouveau
Je n'ai pas tellement d'avis sur le sujet, mais plutôt une question ou hypothèse : se peut-il que ces réponses soient des tests faits par des gens qui travaillent dans «l'intelligence artificielle» pour évaluer leur capacité à faire passer des vessies pour des lanternes ?
Bien humainement,
JP
Licence
