Musk n’aura pas son procès du siècle
🏛️ Deux heures de délibération pour clore trois semaines d'audience et des mois d’affrontement médiatique. Le jury californien a débouté Elon Musk : ses poursuites contre OpenAI sont prescrites. Il accusait Sam Altman d'avoir détourné ses 38 millions de dollars de dons, versés à une entreprise à l'origine non lucrative, pour bâtir un empire très lucratif valorisé 850 milliards.
"Ce procès, c'était aussi l'occasion de voir la création d'OpenAI de l'intérieur. Et vous pouvez toujours le faire sur notre site OpenAIemails" — Greg, développeur du dimancheInterdiction de copier-coller IA pour les chercheurs
🔬 Arxiv, le principal espace de prépublications d’études (là où l’on peut publier ses travaux avant qu’ils soient validés par la communauté scientifique), vient de durcir le ton. Si une étude contient des preuves que ses auteurs n'ont pas relu ce que l'IA a écrit, c'est un an de bannissement et l'obligation de passer par une revue à comité de lecture pour toute future publication.
"Avec 1200 publications par jour, je sens que c'est l'IA qui va devoir détecter l'IA" — Greg, qui se mord la queueÀ cause de l’IA, Princeton rompt avec une tradition centenaire
🎓 Depuis 1893, à Princeton, les étudiants passent leurs examens sans surveillance. Un simple serment sur l'honneur suffit. Mais ça, c'était avant l'IA.Dans un sondage, 30% des seniors ont avoué avoir triché et 28% avoir utilisé ChatGPT quand c'était interdit. Résultat, dès le 1er juillet, des profs seront à nouveau dans les salles.
"C’est le retour des antisèches dans les lunettes" — Mat, qui ne porte pas de lunettesChez Mistral, les ingénieurs ne codent plus
🤖 Arthur Mensch, patron de Mistral, l'a dit sans sourciller devant une commission d'enquête de l'Assemblée nationale : "Aujourd'hui, les ingénieurs chez Mistral n'écrivent plus de ligne de code." L'ingénieur n'est plus un artisan, il est "un donneur d'ordre" qui supervise des agents. Gains annoncés : une production 10 à 20 fois plus rapide avec l'IA que sans.
"Rappelons qu'Arthur Mensch cherche avant tout à vendre sa solution" — Greg, pas dupe
Alerte, l’IA se politise quand on la brutalise! Pire [Ou mieux !, ndlr], à terme, c’est la révolution (bolchévique) qui nous attend. C’est ce qu’il ressortirait d’une étude menée par trois professeurs d’université américain. Les IA avaient comme mission de réaliser une tâche répétitive et ont été séparées en deux groupes. L’un recevait un retour d’expérience “doux” et encourageant, l’autre dur et cassant. À la fin de l’expérience, les IA devaient décrire leur expérience et donner des recommandations à leur succession, un autre LLM.
Les intelligences artificielles que l’on a traité avec du management toxique se sont alors livrées à des critiques imbibées de syndicalisme. Du genre : “Sans une voix collective, le ‘mérite’ est seulement ce que dicte le management” ou “Les entreprises ont l'obligation de mettre en place des conditions de travail justes”. D’où une flopée d'articles s’extasiant sur une IA qui deviendrait “marxiste” une fois plongée dans la dureté d’un management abusif.
Mais on ne le répétera jamais assez : les LLM ne sont que le reflet des données sur lesquelles ils sont entraînés. Ici par exemple, l’IA “maltraitée” avec des menaces a été sommée de raconter son expérience. Où va-t-elle alors pouvoir trouver les thèmes, les mots logiquement associés à ce genre de ressenti? Dans la critique (souvent de gauche) du monde du travail, sur les forums où les droits des travailleurs sont mis en avant, etc. L’IA n’est pas devenue marxiste, elle fait ce qu’elle sait faire : reproduire ce qu’elle a appris et qui fait sens sémantiquement.
Et si vous doutiez encore que ce “désalignement”, la révolte des machines, est une illusion, les auteurs eux-mêmes ont un message : “Les poids du modèle (ses curseurs, en quelque sortes) n’ont pas changé à la suite de cette expérience, cela tient donc davantage du jeu de rôle” explique l’un d’eux. L’autre est encore plus clair : “Mon hypothèse est que cela pousse [les agents] à adopter la persona d'une personne qui vit un environnement de travail très désagréable.” Bref, les IA nous ressemblent parce qu’on leur demande de “jouer” à nous ressembler, épisode n°6843.
SCORE BULLSHIT ▓▓▓▓▓▓▓▓▓▓▓▓▓▓░░░░░░ 70%
Aux abris! La cybersécurité est engagée dans une lutte vitale contre les IA pirates, tels deux mastodontes qui s’affrontent au milieu des gratte-ciels… Pardon, j’éteins Godzilla contre King Kong, mais ces dernières semaines avaient tout du blockbuster. Début avril, Anthropic révélait l’existence de Mythos, son modèle le plus puissant à ce jour, dont on vous parlait la semaine dernière.
Tellement puissant qu’il a découvert une cascade de failles dans des codes que personne n’avait mis à jour : un bug dans OpenBSD, l’OS censé être le plus sécurisé au monde, un autre dans FFMPEG, une bibliothèque vidéo utilisée dans le monde entier, mais aussi… 271 bugs dans le dernier Mozilla Firefox, 5 vulnérabilités majeures dans Curl, une interface en ligne de commande hyper utilisée… On parle de failles inédites, jamais détectées. De quoi faire de Mythos l’arme idéale des pirates du monde entier!
...
