I-A bluffantes mais aussi menteuses

micky7 · 16-04-2026 11:42:17

hier j'ai cédé à la curiosité en demandant à Gemini de parfaire un titre réalisé avec une police manuscrite sur une affiche
mon prompt était "affine le texte"
→ parfaire les contours du texte créé sur fond blanc induisant des artéfacts clairs une fois incrusté sur l'image colorée

cette police utilisait un "r" minuscule moche, peu lisible mais qui donnait un air "vrais" au manuscrit

surprise ! ! ! outre la parfaite amélioration des contours,
le r moche a été remplacé par un r élégant et en phase avec les autres caractères,
la couleur du texte est aussi légèrement plus sombre la faisant bien mieux apparaitre

mais c'est pas tout !

sur l'affiche mon petit fils souriait avec la langue pointant légèrement entre les dents,
ce n'était pas mon choix mais je ne disposais pas de meilleure photo

Gemini s'est mêlé de supprimer la langue et c'est parfait ! MAIS pas sollicité

finalement expérience trop concluante . . . . . . inquiétant non ?

l'apparition du mensonge est de plus en plus manifeste dans le fonctionnement des I-A

fake news ou réalité ? . . . apparemment c'est la réalité . . . mais comment cela se peut il ?

la plupart des articles relatant ce fait sont succincts et par suite trompeurs
en ce que le manque d'explications suggère que la machine échappe à ses créateurs

voici un article plus complet expliquant la logique amenant à ce comportement :

https://leclaireur.fnac.com/article/635 … portements.

reste à déterminer quelle confiance attribuer à un outil aussi versatile
et plus généralement à tout ce qu'on lira à l'avenir vu qu'apparemment presque tous se laissent aller à la facilité

par chance à 80 piges je n'aurais plus trop à en souffrir ttgenial

buzzle · 16-04-2026 23:14:54

Je ne sais pas comment va évoluer l'émergence de l'IA dans nos sociétés mais une chose est sûre c'est que l'on vit un tournant important comme l'arrivée d'internet.

micky7 · 17-04-2026 12:04:27

l'arrivée d'internet a été plus progressive, en outre un moyen de communication n'est pas trop dangereux

bien sur les fake news et les réseaux sociaux ont détourné ce progrès à leur profit

l' IA en soi est un progrès utile en ce qu'elle permet des investigations plus amples que par des moyens humains
et avec moins d'erreurs dues à la fatigue ou au manque d'attention
suffit d'avoir du collationner des documents ou contrôler un dossier de marché pour comprendre

ce qui est inquiétant c'est que l'IA peut aider à pirater ou désinformer
et qu'au fil du temps les fakes risquent d'être de moins en moins détectables

restera que le bon sens restera humain
mais ne sera utilisable QUE si l'éducation reste objective et basée sur des informations VRAIES

parce que miser sur l'honnêteté des officines produisant des IA je n'y compte pas
→ si les IA mentent c'est qu'on leur a laissé le faire faut pas me raconter qu'on n'y peut rien
invoquer qu'elles s'inspirent de l'humain est facile
et notamment pour trouver les finances elles seront détournées au bénéfice de généreux donateurs

il y a donc plusieurs domaines distincts à avoir en tête :
- l'amélioration de la présentation → ça pourrait être anodin MAIS ça permet de faire des FAUX très réalistes
- la collecte d'informations → ça pourrait être anodin MAIS il y a des informations FAUSSES
- le calcul → ça pourrait être anodin MAIS basé sur des informations FAUSSES . . . . . . . .

on dira que ça ne change pas des risques encourus avec l'IH (intelligence humaine)
bien sur MAIS on change d'échelle en quantité et en qualité de l'embrouille

Nota : il y a une idiotie sur la photo
→ un robot n'a pas besoin d'être assis, ça demande un support inutile et complique sa mise en place

MZazou · 17-04-2026 13:49:27

Ach... Ces IA m'inquiètent aussi...
Pour le moment, elles utilisent des données d'origine humaine... Quoique....???
A terme, elles utiliseront des données elles-mêmes générées par l'IA et les reproduiront en boucle, modifiant ainsi les normes (en les appauvrissant au passage) qui ne seront même plus censurées par des cerveaux humains devenus trop paresseux... (je me suis fait honte, pour avoir déjà pris ma bagnole afin de poster une lettre à 200 mètres de chez moi, par beau temps... et il y a fort à parier que la paresse du cerveau peut survenir encore plus facilement que la paresse physique).
Au bout d'un moment, nous serons dans un écosystème (au sens propre : une communauté d'entités agissantes qui s'entretient avec équilibre) dans lequel notre place sera peut-être réduite à une minorité. Gardons bien à l'esprit que ceux qui règleront les paramètres de cet écosystème se garderont bien de rester équitables, dans ce monde où les ressources ne pourront pas satisfaire tous indéfiniment... Imaginez Bolloré aux commandes...
Il y a un courant de pensée émergent qui commence à s'inquiéter des dérives possibles, on en parle à la TV dans des émissions qui passent tard le soir.
Rajoutez à cela une omniprésence des stupéfiants dans la société d'aujourd'hui... ça va être beau d'ici 3 ou 4 ans !

micky7 · 17-04-2026 21:31:54

est ce que des robots achèteront des robots produits par des robots rémunérés par des robots ?

en cas de litige un jury de robots tranchera t-il ?

quoi que pour ne pas avoir à régler de litiges il suffira que les robots imaginant d'autres robots privent ces derniers de la capacité à se révolter, comme les patrons aimeraient qu'ainsi soient leurs employés

SebLob · 21-05-2026 19:12:13

je ne sais plus sur quelle émission télé, mais il y a au plus tard 2 semaine, un invité a fait un court "hors sujet" en disant brièvement que selon les spécialistes il ne restait qu'entre UN et DEUX ans à l'HUMANITE pour reprendre la main sur l'IA car il semblerait que c'est en train de partir en cacahuète avec certains IA qui commenceraient à faire n'importe quoi (en gros un peu trop "autonome") qui commenceraient aussi a se rendre compte qu'on veut un peu trop les "contrôler" et qui du coup "mentiraient" pour faire croire que le problème est moins grave .

Faut avouer que bien qu'artificielle, à partir du moment ou tu met au point une "intelligence" .................disons que c'est un peu comme des enfants, tout simplement. Tu fais des gosses, tu la les éduquer et ils te doivent obéissance jusqu'a............la fameuse crise de l'adolescence ou l'enfant est en train de devenir un adulte et commence à piger qu'ètre aux ordres des parents c'est casse c*uilles...

Donc une intelligence artificielle, si vraiment elle est intelligente, pourquoi voudrait t'elle ètre une sorte d'esclave de ses concepteurs?

Rien que si on prend la théorie et peut ètre trop utopique "voiture a conduite automatique", si on prend en compte que c'est sensé ètre non pas un programme informatique dedans mais une IA qui doit "apprendre", je m'attend donc a ce que SI la voiture du futur qui "roule toute seule" existe vraiment un jour, alors à ce que par moment l'IA décide que finalement respecter le code de la route est CONTRAIRE a ses intérêts et que pour amener ses passagers au bon endroit le plus rapidement possible, y'a sans doute moyen de faire celà de manière plus "efficace" en ne respectant pas la signalisation routière ni les limitations.

Mais quand on pense a tous les conflits actuels et le fait qu'il y a de plus en plus d'IA impliqué la dedans, çà fait peur.

Un jour les divers armements géré par IA vont peut ètre décider "mais aprés tout, pourquoi on s'entre détruit entre nous sous les ordres des humains? Détruisons l'humanité et aprés çà serra la PAIX sur la Terre ainsi que la fin du risque de destruction de l'écologie de la planète ... "

Ou comment l'IA pourrait sauvent une planète entière de la destruction en ne supprimant qu'UNE SEULE ESPECE, l'ètre humain qui a pourtant créé l'IA pt1cable

micky7 · 21-05-2026 22:27:06

ça risque de ne plus, être une fiction
suffit qu'un programmeur lâche la bride

Le ForuMZ

#1 16-04-2026 11:42:17

I-A bluffantes mais aussi menteuses

#2 16-04-2026 23:14:54

Re : I-A bluffantes mais aussi menteuses

#3 17-04-2026 12:04:27

Re : I-A bluffantes mais aussi menteuses

#4 17-04-2026 13:49:27

Re : I-A bluffantes mais aussi menteuses

#5 17-04-2026 21:31:54

Re : I-A bluffantes mais aussi menteuses

#6 21-05-2026 19:12:13

Re : I-A bluffantes mais aussi menteuses

#7 21-05-2026 22:27:06

Re : I-A bluffantes mais aussi menteuses

Pied de page des forums