I-A bluffantes mais aussi menteuses

micky7 · 16-04-2026 11:42:17

hier j'ai cédé à la curiosité en demandant à Gemini de parfaire un titre réalisé avec une police manuscrite sur une affiche
mon prompt était "affine le texte"
→ parfaire les contours du texte créé sur fond blanc induisant des artéfacts clairs une fois incrusté sur l'image colorée

cette police utilisait un "r" minuscule moche, peu lisible mais qui donnait un air "vrais" au manuscrit

surprise ! ! ! outre la parfaite amélioration des contours,
le r moche a été remplacé par un r élégant et en phase avec les autres caractères,
la couleur du texte est aussi légèrement plus sombre la faisant bien mieux apparaitre

mais c'est pas tout !

sur l'affiche mon petit fils souriait avec la langue pointant légèrement entre les dents,
ce n'était pas mon choix mais je ne disposais pas de meilleure photo

Gemini s'est mêlé de supprimer la langue et c'est parfait ! MAIS pas sollicité

finalement expérience trop concluante . . . . . . inquiétant non ?

l'apparition du mensonge est de plus en plus manifeste dans le fonctionnement des I-A

fake news ou réalité ? . . . apparemment c'est la réalité . . . mais comment cela se peut il ?

la plupart des articles relatant ce fait sont succincts et par suite trompeurs
en ce que le manque d'explications suggère que la machine échappe à ses créateurs

voici un article plus complet expliquant la logique amenant à ce comportement :

https://leclaireur.fnac.com/article/635 … portements.

reste à déterminer quelle confiance attribuer à un outil aussi versatile
et plus généralement à tout ce qu'on lira à l'avenir vu qu'apparemment presque tous se laissent aller à la facilité

par chance à 80 piges je n'aurais plus trop à en souffrir ttgenial

buzzle · 16-04-2026 23:14:54

Je ne sais pas comment va évoluer l'émergence de l'IA dans nos sociétés mais une chose est sûre c'est que l'on vit un tournant important comme l'arrivée d'internet.

micky7 · Hier 12:04:27

l'arrivée d'internet a été plus progressive, en outre un moyen de communication n'est pas trop dangereux

bien sur les fake news et les réseaux sociaux ont détourné ce progrès à leur profit

l' IA en soi est un progrès utile en ce qu'elle permet des investigations plus amples que par des moyens humains
et avec moins d'erreurs dues à la fatigue ou au manque d'attention
suffit d'avoir du collationner des documents ou contrôler un dossier de marché pour comprendre

ce qui est inquiétant c'est que l'IA peut aider à pirater ou désinformer
et qu'au fil du temps les fakes risquent d'être de moins en moins détectables

restera que le bon sens restera humain
mais ne sera utilisable QUE si l'éducation reste objective et basée sur des informations VRAIES

parce que miser sur l'honnêteté des officines produisant des IA je n'y compte pas
→ si les IA mentent c'est qu'on leur a laissé le faire faut pas me raconter qu'on n'y peut rien
invoquer qu'elles s'inspirent de l'humain est facile
et notamment pour trouver les finances elles seront détournées au bénéfice de généreux donateurs

il y a donc plusieurs domaines distincts à avoir en tête :
- l'amélioration de la présentation → ça pourrait être anodin MAIS ça permet de faire des FAUX très réalistes
- la collecte d'informations → ça pourrait être anodin MAIS il y a des informations FAUSSES
- le calcul → ça pourrait être anodin MAIS basé sur des informations FAUSSES . . . . . . . .

on dira que ça ne change pas des risques encourus avec l'IH (intelligence humaine)
bien sur MAIS on change d'échelle en quantité et en qualité de l'embrouille

Nota : il y a une idiotie sur la photo
→ un robot n'a pas besoin d'être assis, ça demande un support inutile et complique sa mise en place

MZazou · Hier 13:49:27

Ach... Ces IA m'inquiètent aussi...
Pour le moment, elles utilisent des données d'origine humaine... Quoique....???
A terme, elles utiliseront des données elles-mêmes générées par l'IA et les reproduiront en boucle, modifiant ainsi les normes (en les appauvrissant au passage) qui ne seront même plus censurées par des cerveaux humains devenus trop paresseux... (je me suis fait honte, pour avoir déjà pris ma bagnole afin de poster une lettre à 200 mètres de chez moi, par beau temps... et il y a fort à parier que la paresse du cerveau peut survenir encore plus facilement que la paresse physique).
Au bout d'un moment, nous serons dans un écosystème (au sens propre : une communauté d'entités agissantes qui s'entretient avec équilibre) dans lequel notre place sera peut-être réduite à une minorité. Gardons bien à l'esprit que ceux qui règleront les paramètres de cet écosystème se garderont bien de rester équitables, dans ce monde où les ressources ne pourront pas satisfaire tous indéfiniment... Imaginez Bolloré aux commandes...
Il y a un courant de pensée émergent qui commence à s'inquiéter des dérives possibles, on en parle à la TV dans des émissions qui passent tard le soir.
Rajoutez à cela une omniprésence des stupéfiants dans la société d'aujourd'hui... ça va être beau d'ici 3 ou 4 ans !

micky7 · Hier 21:31:54

est ce que des robots achèteront des robots produits par des robots rémunérés par des robots ?

en cas de litige un jury de robots tranchera t-il ?

quoi que pour ne pas avoir à régler de litiges il suffira que les robots imaginant d'autres robots privent ces derniers de la capacité à se révolter, comme les patrons aimeraient qu'ainsi soient leurs employés

Le ForuMZ

#1 16-04-2026 11:42:17

I-A bluffantes mais aussi menteuses

#2 16-04-2026 23:14:54

Re : I-A bluffantes mais aussi menteuses

#3 Hier 12:04:27

Re : I-A bluffantes mais aussi menteuses

#4 Hier 13:49:27

Re : I-A bluffantes mais aussi menteuses

#5 Hier 21:31:54

Re : I-A bluffantes mais aussi menteuses

Pied de page des forums