Recyclage en Intelligence Artificielle

[WolfgangK]

Le premier usage c est surtout de faire du fric... Un autre usage possible c'est de transformer une bonne partie des utilisateurs en idiots ?

Ne désespérons pas. Si ça se trouve, et avec ses progrès, l'IA pourrait résoudre certains problèmes sur lesquels l'intelligence humaine bute encore. Mais je reconnais très volontiers qu'il faut une certaine dose d'optimisme.
Dans l'intervalle, certains se seront enrichis. Malheureusement, ils seront certainement à chercher du côté de ceux qui sont déjà plus riches que riches. :/

C'est la malédiction des technologies : en facteur démultiplicateurs, elles amplifient les inégalités.
C'est pour ça que je pense que la redistributivité des sociétés doit augmenter avec le progrès technologique.

[War Again]

Le premier usage c est surtout de faire du fric... Un autre usage possible c'est de transformer une bonne partie des utilisateurs en idiots ?

Ne désespérons pas. Si ça se trouve, et avec ses progrès, l'IA pourrait résoudre certains problèmes sur lesquels l'intelligence humaine bute encore. Mais je reconnais très volontiers qu'il faut une certaine dose d'optimisme.
Dans l'intervalle, certains se seront enrichis. Malheureusement, ils seront certainement à chercher du côté de ceux qui sont déjà plus riches que riches. :/

C'est la malédiction des technologies : en facteur démultiplicateurs, elles amplifient les inégalités.
C'est pour ça que je pense que la redistributivité des sociétés doit augmenter avec le progrès technologique.

C'est finement observé. Ca plaide, en un sens, en faveur d'un salaire universel, non?
Il est vrai que je vois de moins en moins de quoi vivront ceux qui ne peuvent s'en sortir par l'école. :/

[WolfgangK]

Le premier usage c est surtout de faire du fric... Un autre usage possible c'est de transformer une bonne partie des utilisateurs en idiots ?

Ne désespérons pas. Si ça se trouve, et avec ses progrès, l'IA pourrait résoudre certains problèmes sur lesquels l'intelligence humaine bute encore. Mais je reconnais très volontiers qu'il faut une certaine dose d'optimisme.
Dans l'intervalle, certains se seront enrichis. Malheureusement, ils seront certainement à chercher du côté de ceux qui sont déjà plus riches que riches. :/

C'est la malédiction des technologies : en facteur démultiplicateurs, elles amplifient les inégalités.
C'est pour ça que je pense que la redistributivité des sociétés doit augmenter avec le progrès technologique.

C'est finement observé. Ca plaide, en un sens, en faveur d'un salaire universel, non?
Il est vrai que je vois de moins en moins de quoi vivront ceux qui ne peuvent s'en sortir par l'école. :/

Le salaire universel n'est pas sans inconvénient : son montant dépend d'une décision politique, donc si suffisamment de personnes ont intérêt à l'augmenter…

[WolfgangK]

Je commence à avoir du mal à résister à l'envie de m'acheter un ordinateur :
https://github.com/Ying1123/FlexGen

NVIDIA T4 (16GB) instance on GCP with 208GB of DRAM and 1.5TB of SSD.

Ça fait quel budget

[Nounou]

Je commence à avoir du mal à résister à l'envie de m'acheter un ordinateur :
https://github.com/Ying1123/FlexGen

NVIDIA T4 (16GB) instance on GCP with 208GB of DRAM and 1.5TB of SSD.

Ça fait quel budget

Recherche rapide:
Rien que pour la carte: presque 1500 dollars sur Amazon.com
Et pourtant, elle est sortie il y a plus de 4 ans et a deja des successeurs. Gravure en 12nm, les dernieres generations de produits Nvidia sont en 5 ou 4 nanometres. Plus de performance a consommation egale. Mais encore plus cheres
Ce sont des gammes professionnelles, pas destinees au gaming du fond de commerce.

[henda]

Dire qu'à une époque (lointaine maintenant), les gammes pro de NVIDIA (les Quadro), pouvaient s'obtenir à partir d'une carte grand public (GeForce) simplement en flashant le BIOS pour activer un bit particulier

[WolfgangK]

Je commence à avoir du mal à résister à l'envie de m'acheter un ordinateur :
https://github.com/Ying1123/FlexGen

NVIDIA T4 (16GB) instance on GCP with 208GB of DRAM and 1.5TB of SSD.

Ça fait quel budget

Recherche rapide:
Rien que pour la carte: presque 1500 dollars sur Amazon.com
Et pourtant, elle est sortie il y a plus de 4 ans et a deja des successeurs. Gravure en 12nm, les dernieres generations de produits Nvidia sont en 5 ou 4 nanometres. Plus de performance a consommation egale. Mais encore plus cheres
Ce sont des gammes professionnelles, pas destinees au gaming du fond de commerce.

En plus, je viens de voir que FlexGen , l'implémentation en question, brille surtout quand il y a 32 utilisateurs simultanés (batch).
Pour une à 32 personnes, la vitesse est la même à environ 0.02tokens/s, donc faudra pas être pressé.

[Nounou]

En tout cas, tu m’as rendu service au sujet de cette recherche rapide, je continue a creuse la gamme NVidia pour mon education professionnelle, cote materiel.
La micro-electronique sort un peu du tout monolithique, avec des technolôgies d’assemblage sophistiquees: memoires HBM, interposeur dans le boitier,... je suis paye pour faire la promotion d’outils logiciels specifiques de conception.
Je ne me rendais pas compte du cout final d’un assemblage, des dizaines de milliers d’euros.

Empiler des puces dans un iPhone (comme capteur d’image sur puce logique) est plus a la portee du grand-public.

[titano]

Oui, ChatGPT est déjà l'auteur (ou le co-auteur) de nombreux livres sur le Kindle Store

Clubic 22/02/2023

Parmi eux, un livre pour enfants de 30 pages corédigé par Brett Schickler.

Sammy the Squirrel raconte l'histoire d'un petit écureuil qui apprend de ses amis de la forêt comment économiser de l'argent après être tombé sur une pièce d'or. Schickler a généré le texte grâce à ChatGPT, à travers une simple requête de départ lui demandant d'« écrire une histoire sur un père qui enseigne à son fils l'éducation financière ». Il a confié à Reuters que grâce à l'IA, « écrire un livre paraissait enfin possible ». Son ouvrage a également été illustré par une IA générative, c'est-à-dire capable de générer des textes ou images en quelques secondes.

Sammy the Squirrel a seulement demandé quelques heures de travail à Brett Schickler, de sa création à sa mise en ligne.

[krachboom]

Pour le coup c'est futé, et sûrement très rentable

[Madi94]

Ce matin sur France info, un.podcast de 26min sur l intelligence artificielle que j ai trouvé intéressant et couvrant bcp de questionnement lié à IA.

https://www.francetvinfo.fr/replay-radi ... 61677.html

"Il faut des discussions mondiales", car "il est nécessaire de réguler" l'utilisation de l'intelligence artificielle (IA), affirme Laurence Devillers, chercheuse au CNRS et professeure en IA à Sorbonne Université, invité du 8h30 franceinfo, jeudi 2 mars 2023.

"En ce moment, on est en train de pousser vers une culture anglo-saxonne puisque dans ces ChatGPT par exemple, on a 46% d'Anglais et moins de 5% de Chinois ou de Français", développe-t-elle. ChatGPT est un logiciel capable de générer toutes sortes de textes en fonction des requêtes des utilisateurs. "C'est une prise de pouvoir effective, il est nécessaire de réguler", ajoute-t-elle.

[Sifar]

Ce matin sur France info, un.podcast de 26min sur l intelligence artificielle que j ai trouvé intéressant et couvrant bcp de questionnement lié à IA.

https://www.francetvinfo.fr/replay-radi ... 61677.html

"Il faut des discussions mondiales", car "il est nécessaire de réguler" l'utilisation de l'intelligence artificielle (IA), affirme Laurence Devillers, chercheuse au CNRS et professeure en IA à Sorbonne Université, invité du 8h30 franceinfo, jeudi 2 mars 2023.

"En ce moment, on est en train de pousser vers une culture anglo-saxonne puisque dans ces ChatGPT par exemple, on a 46% d'Anglais et moins de 5% de Chinois ou de Français", développe-t-elle. ChatGPT est un logiciel capable de générer toutes sortes de textes en fonction des requêtes des utilisateurs. "C'est une prise de pouvoir effective, il est nécessaire de réguler", ajoute-t-elle.

https://fr.wikipedia.org/wiki/Laurence_Devillers
Née en 1962, elle soutient sa thèse en 1992.

Laurence Devillers a publié :

une thèse (1992) Reconnaissance de parole continue avec un système hybride neuronal et Markovien, thèse de doctorat en sciences, spécialité informatique, Orsay, novembre 1992
un mémoire d'habilitation (2006) Les Émotions dans les interactions Homme-Machine : perception, détection et génération, Habilitation à diriger des recherches en informatique de l’université Paris XI, Orsay, décembre 2006
Des robots et des hommes : mythes, fantasmes et réalité : Mythes, fantasmes et réalité
Les Robots émotionnels : Santé, surveillance, sexualité... : et l'éthique dans tout ça ?
La Souveraineté numérique dans l'après-crise, éditions de l'Observatoire, coll. « Et après ? », 2020.

Je peux bien sûr me tromper, mais j'ai l'impression que Madame Devillers est à l'IA ce que Monsieur Etienne Klein est à la Physique.

[WolfgangK]

Ce matin sur France info, un.podcast de 26min sur l intelligence artificielle que j ai trouvé intéressant et couvrant bcp de questionnement lié à IA.

https://www.francetvinfo.fr/replay-radi ... 61677.html

"Il faut des discussions mondiales", car "il est nécessaire de réguler" l'utilisation de l'intelligence artificielle (IA), affirme Laurence Devillers, chercheuse au CNRS et professeure en IA à Sorbonne Université, invité du 8h30 franceinfo, jeudi 2 mars 2023.

"En ce moment, on est en train de pousser vers une culture anglo-saxonne puisque dans ces ChatGPT par exemple, on a 46% d'Anglais et moins de 5% de Chinois ou de Français", développe-t-elle. ChatGPT est un logiciel capable de générer toutes sortes de textes en fonction des requêtes des utilisateurs. "C'est une prise de pouvoir effective, il est nécessaire de réguler", ajoute-t-elle.

Les technos sont aux mais des USA, donc il faut réguler
Et si ils essayaient d'aider à développer les technos en français ?
J'ai lu que ça ne coûtait que 12 millions de $ d'entraîner ChatGPT, donc un peu beaucoup pour une start-up français et surtout idiot à faire faire par toutes les start-up français intéressées par le domaine, mais une paille pour l'État. Avec ce genre de budget, on préfère repeindre des pistes cyclables en vert et pour les nouvelles technos, on régule

[WolfgangK]

Ce matin sur France info, un.podcast de 26min sur l intelligence artificielle que j ai trouvé intéressant et couvrant bcp de questionnement lié à IA.

https://www.francetvinfo.fr/replay-radi ... 61677.html

"Il faut des discussions mondiales", car "il est nécessaire de réguler" l'utilisation de l'intelligence artificielle (IA), affirme Laurence Devillers, chercheuse au CNRS et professeure en IA à Sorbonne Université, invité du 8h30 franceinfo, jeudi 2 mars 2023.

"En ce moment, on est en train de pousser vers une culture anglo-saxonne puisque dans ces ChatGPT par exemple, on a 46% d'Anglais et moins de 5% de Chinois ou de Français", développe-t-elle. ChatGPT est un logiciel capable de générer toutes sortes de textes en fonction des requêtes des utilisateurs. "C'est une prise de pouvoir effective, il est nécessaire de réguler", ajoute-t-elle.

https://fr.wikipedia.org/wiki/Laurence_Devillers
Née en 1962, elle soutient sa thèse en 1992.

Laurence Devillers a publié :

une thèse (1992) Reconnaissance de parole continue avec un système hybride neuronal et Markovien, thèse de doctorat en sciences, spécialité informatique, Orsay, novembre 1992
un mémoire d'habilitation (2006) Les Émotions dans les interactions Homme-Machine : perception, détection et génération, Habilitation à diriger des recherches en informatique de l’université Paris XI, Orsay, décembre 2006
Des robots et des hommes : mythes, fantasmes et réalité : Mythes, fantasmes et réalité
Les Robots émotionnels : Santé, surveillance, sexualité... : et l'éthique dans tout ça ?
La Souveraineté numérique dans l'après-crise, éditions de l'Observatoire, coll. « Et après ? », 2020.

Je peux bien sûr me tromper, mais j'ai l'impression que Madame Devillers est à l'IA ce que Monsieur Etienne Klein est à la Physique.

Quand tu passes de la reconnaissance de paroles, aux "émotions" des robots puis à la souveraineté numérique …
Y'a des chances qu'elle veille réguler ChatGPT pour éviter qu'il pipeaute mieux qu'elle.

M.B
2,0 sur 5 étoiles Rien de nouveau
Commenté en France le 15 octobre 2021
Achat vérifié
J'ai choisi d'acheter ces revues numériques car les articles proposés étaient écrits par des spécialistes dans leurs domaines respectifs. Je constate que le contenu de celui-ci est bien maigre. Il n'a rien apporté de nouveau. Il ne propose pas de démonstration ni de structure qui pourrait lui conférer un caractère scientifique (dans son sens large). Déçue.
Utile
Signaler un abus
Kindle Customer
1,0 sur 5 étoiles T
Commenté en France le 12 octobre 2020
Achat vérifié
Pas intéressant, pas de nouvelles idées développées. Elle survole les domaines sans forcément entrer dans les détails et répéte ce quon retrouve sur internet

[WolfgangK]

Est-ce que les ordinateurs peuvent désormais lire dans les esprits ?
https://sites.google.com/view/stabledif ... ith-brain/

High-resolution image reconstruction with latent diffusion models from human brain activity

[Nounou]

GPU demand from ChatGPT could reach 30,000 chips
https://evertiq.com/news/53375

Les sociétés taïwanaises AIchip et eMemory devraient profiter de la demande croissante de GPU et de puces liées à l'IA.

L'IA générative nécessite une énorme quantité de données pour l'entraînement. Le déploiement d'un grand nombre de GPU hautes performances permet donc de réduire le temps d'entraînement. Dans le cas du Generative Pre-Trained Transformer (GPT) qui sous-tend ChatGPT, le nombre de paramètres d'entraînement utilisés pour le développement de ce modèle de langage autorégressif est passé d'environ 120 millions en 2018 à près de 180 milliards en 2020. Selon l'estimation de TrendForce, le nombre de GPU dont le modèle GPT a eu besoin pour traiter les données d'entraînement en 2020 s'est élevé à environ 20 000. À l'avenir, le nombre de GPU qui seront nécessaires pour la commercialisation du modèle GPT (ou ChatGPT) devrait atteindre plus de 30 000. Notez que ces estimations utilisent l'A100 de NVIDIA comme base de calcul. Par conséquent, l'IA générative devenant une tendance, la demande devrait augmenter de manière significative pour les GPU et profiter ainsi aux participants de la chaîne d'approvisionnement correspondante. NVIDIA, par exemple, sera probablement la société qui profitera le plus du développement de l'IA générative. Son DGX A100, qui est un système universel pour les charges de travail liées à l'IA, fournit 5 pétaFLOPS et est presque devenu le premier choix pour l'analyse de données volumineuses et l'accélération de l'IA. Outre NVIDIA, AMD a également lancé successivement les séries MI00, MI200 et MI300 de puces pour serveurs qui sont largement adoptées pour les applications alimentées par l'IA.

Traduit avec www.DeepL.com/Translator (version gratuite)

[Madi94]

M.B
2,0 sur 5 étoiles Rien de nouveau
Commenté en France le 15 octobre 2021
Achat vérifié

enfin bref ....
Et pourquoi pas celui là ?

Commenté en France le 11 juin 2020
Un livre passionnant, c'est une ouverture sur le monde de l'intelligence artificielle et des ses applications sur nos émotions. Cet ouvrage nous interpelle et nous livre les clefs pour comprendre et appréhender le futur de l'IA et son impact sur nos vies. Je suis depuis quelques années les travaux de L.Devillers, qui je l'espère aideront les lecteurs à comprendre les tenants et aboutissants de ces applications plus ou moins éthiques.

Manque de rigueur dans ta réponse!

[moinsdewatt]

Premier manga japonais généré par une intelligence artificielle: magie ou menace?

Tomohiro OSAKI lun. 6 mars 2023

L'auteur d'un manga qui sortira jeudi au Japon avoue avoir "zéro" talent pour le dessin: son oeuvre, la première du pays entièrement créée par une intelligence artificielle, soulève des inquiétudes pour l'emploi et les droits d'auteur dans cette lucrative industrie.

Tous les engins et créatures futuristes de ce manga de science-fiction intitulé "Cyberpunk: Peach John" sont l'oeuvre du programme Midjourney, un outil d'IA apparu l'an dernier qui a épaté la planète, avec d'autres programmes similaires comme Stable Diffusion ou DALL-E 2.

Rootport - le pseudonyme de l'auteur - a réalisé le manga d'une centaine de pages en six semaines seulement, là où un artiste confirmé aurait normalement mis un an, estime-t-il.

"C'était un cheminement amusant, un peu comme jouer au loto", raconte à l'AFP l'homme de 37 ans.
...........................
/quote]
https://fr.style.yahoo.com/premier-mang ... 19652.html

[moinsdewatt]

"Mais au fait, quelles sources as-tu utilisées pour répondre à mes questions ?"
"En tant que modèle de langage entraîné par OpenAI, mes réponses sont générées à partir d’une combinaison de diverses sources fiables et vérifiables, telles que :

Des études scientifiques publiées dans des revues spécialisées ;
Des rapports et des analyses de grandes organisations internationales, telles que l’Agence internationale de l’énergie (AIE), l’Organisation des Nations unies (ONU) et l’Union européenne (UE) ;
Des sites Web d’informations spécialisées dans le domaine de la mobilité électrique ;
Des publications et des communiqués de presse des constructeurs automobiles, des équipementiers et des entreprises actives dans le domaine de la mobilité électrique ;
Des discussions et des échanges avec des experts du domaine de la mobilité électrique.

Je m’efforce toujours de fournir des réponses précises et factuelles, basées sur des sources fiables et vérifiables."

https://www.automobile-propre.com/chatg ... lectrique/

Tu ris jaune car il n'est pas cité tes sites de Terre Plate Alakon ?

[henda]

User
What is funny about this image? Describe it panel by panel.



GPT-4
The image shows a package for a "Lightning Cable" adapter with three panels.

Panel 1: A smartphone with a VGA connector (a large, blue, 15-pin connector typically used for computer monitors) plugged into its charging port.

Panel 2: The package for the "Lightning Cable" adapter with a picture of a VGA connector on it.

Panel 3: A close-up of the VGA connector with a small Lightning connector (used for charging iPhones and other Apple devices) at the end.

The humor in this image comes from the absurdity of plugging a large, outdated VGA connector into a small, modern smartphone charging port.

https://openai.com/research/gpt-4

[slash33]

Moi aussi je l'ai testé sur des sujets que je connais bien (mon métier) et il dit des conneries, mais il les dit bien Il me semble que c'est sur la chaine YT de underscore_ qu'ils disent de faire attention, car parfois il ment, et avec aplomb.

On a fait pareil au boulot: il a répondu que c'est trop compliqué et trop spécifique et a répondu un long pavé, avec un français impec à faire palir l'ingénieur moyen de maintenant, sur la théorie du domaine concerné. Bref, 1-0 pour nous dans l'immédiat.

Là où ça devient moins cocasse: le client, à savoir l'Administration, envisage de remplacer l'équipe actuelle et de tester l'IA à la place (sur le fond c'est envisageable), compte tenu des millions dépensés en pure perte jusqu'à présent dans un projet qui patine grave dans la semoule. Et la note de fin, que je délivre en guise de conclusion (j'ai presque démissionné du poste): le principal problème de ce projet est le facteur humain, c'est l'absence de leadership et d'organisation à tous les échelons notamment la gouvernance globale. Le jour où l'IA réglera des problèmes à ce niveau, le travailleur intellectuel n'aura plus à utiliser son cerveau et moi à chercher à me reconvertir asap.

[WolfgangK]

https://fleuret.org/public/lbdl.pdf

The Little Book of Deep Learning
François Fleuret

[Scot123]

Bonjour à tous Je suivais ce post car mon mari envisageait un recyclage en IA....
Là notre fille termine bientôt son stage de dernière année d'école d'ingénieur en tant que Data-scientist L'entreprise (du cac40) dans laquelle elle est ne peut pas l'embaucher cette année. Elle est donc débutante. Elle a fait son stage ouvrier à la chaîne dans une usine, puis dans un labo universitaire en Irlande (en traitement d'images). Elle postule, elle n' a que des refus pour l'instant. Elle vit en ce moment en Région parisienne et aimerait y rester mais se demande si elle ne va pas regarder à l'étranger. D'autres jeunes de sa boite en master pro (même filière) terminent bientôt Ils sont étonnés par les salaires qu'on leur propose en IDF Donc eux aussi pensent à quitter l'hexagone. On lui propose sinon de faire un doctorat
Bref on parle de l'IA partout mais finalement c'est pas le Pérou ou je me trompe ?

[WolfgangK]

Bonjour à tous Je suivais ce post car mon mari envisageait un recyclage en IA....
Là notre fille termine bientôt son stage de dernière année d'école d'ingénieur en tant que Data-scientist L'entreprise (du cac40) dans laquelle elle est ne peut pas l'embaucher cette année. Elle est donc débutante. Elle a fait son stage ouvrier à la chaîne dans une usine, puis dans un labo universitaire en Irlande (en traitement d'images). Elle postule, elle n' a que des refus pour l'instant. Elle vit en ce moment en Région parisienne et aimerait y rester mais se demande si elle ne va pas regarder à l'étranger. D'autres jeunes de sa boite en master pro (même filière) terminent bientôt Ils sont étonnés par les salaires qu'on leur propose en IDF Donc eux aussi pensent à quitter l'hexagone. On lui propose sinon de faire un doctorat
Bref on parle de l'IA partout mais finalement c'est pas le Pérou ou je me trompe ?

Malheureusement, il y a beaucoup de débiles suiveurs de mode dans le management des entreprises françaises qui font de l'informatique (sans doute chez les autres aussi, mais je connais moins), donc comme ils ne comprennent rien, ils ont sans doute embauché à tort et à travers au début de la mode "data science" des gens plus ou moins compétents sans trop savoir quoi leur faire faire. Ils sont sans doute déçus, mais en tous cas, c'est pas la fête au niveau international non plus, chez les grosses boites comme Google, Meta, Salesforce (sans parler de Twitter !).
Donc il y a un côté conjoncturel aussi.
Le doctorat, ça peut être intéressant si la boite est sérieuse et le sujet porteur et pas trop spécialisé donc apportant des compétences qui seront facilement réutilisables ailleurs, pas forcément pour continuer dans l' enseignement supérieur et la recherche.

EDIT: Si je cherchais du taf en Data Science, je ne me contenterais pas de montrer mes diplômes, mais je me ferais une collection de projets à montrer, par exemple sur Google Colab pour montrer ce que je sais faire.

[Scot123]

Merci Wolfgang pour tes observations Je ne sais pas si c'est Google Colab mais elle a un site sur lequel elle a mis ses réalisations Cela lui a permis d'avoir ce super stage dans cette société du CAC40 mais dans laquelle il n'y aura pas de suite Cela avait été envisagé à l'entretien d'embauche mais il lui avait été dit aussi de ne pas se faire de soucis car il y avait tout leur réseau ... Un de ses amis a fait des études en astrophysique Il n'a rien trouvé en France (2021) Il a un cdd dans l'informatique après une grosse déprime

[Ben92]

@scot123
Le marché de l'emploi des data scientistes est complètement saturé. On en a formé beaucoup trop ces deux ou trois dernières années par rapport aux besoins. Les étudiants ont une appetence pour ce métier car c'est vrai c'est intéressant.
Malheureusement, comme toujours, le gros des besoins en IT sont sur des trucs pas sexy du tout, du développement principalement, AWS, et toutes ces conneries. Je commence à voir des CV de datascientistes pour des postes de développeur qu'on propose dans ma boîte, c'est dire s'ils sont désespérés de postuler pour ça.

[Scot123]

Merci beaucoup Ben 92 C'est pas le Pérou à ce que je lis Heureusement que mon mari n'a pas fait de reconversion en ce domaine ...

Solutions :
- la préparer psychologiquement à encaisser la déconvenue
- répondre favorablement aux consultants qui la sollicite
- être à nouveau mobile sur toute la France ( Entre notre domicile dans le sud, son école dans l'est et son stage en Ile de France, elle va finir par quadriller le pays ! )
- concrétiser leur projet d'ingénieur qui a bcp plût au jury de leur école Les professionnels présents étaient prêts à les accompagner ( Le hic c'est que c'est dans le domaine agricole et que nous sommes des urbains, même les enfants d'agriculteurs ne voulaient pas créer l'entreprise malgré un big soutien)
- Ne pas être regardante sur le niveau de rémunération histoire de rester dans la datascience
- donner suite à la proposition d'emploi du labo universitaire irlandais dans lequel elle a fait son stage
- Faire un Master en ? ou doctorat Profil : machine learning+ deep learning+ chinois en plus de l'anglais

Nb Un des ses copains qui voulait être astrophysicien ouvre une brasserie (enfin il arrive peut être à la traîne là aussi ce sont les rhumeries qui sont à la mode ...)

[saturne]

https://www.deepmind.com/blog/alphadev- ... algorithms

AlphaDev discovers faster sorting algorithms
June 7, 2023

Discovering faster sorting algorithms

AlphaDev uncovered new sorting algorithms that led to improvements in the LLVM libc++ sorting library that were up to 70% faster for shorter sequences and about 1.7% faster for sequences exceeding 250,000 elements.

We focused on improving sorting algorithms for shorter sequences of three to five elements. These algorithms are among the most widely used because they are often called many times as a part of larger sorting functions. Improving these algorithms can lead to an overall speedup for sorting any number of items.

To make the new sorting algorithm more usable for people, we reverse-engineered the algorithms and translated them into C++, one of the most popular coding languages that developers use. These algorithms are now available in the LLVM libc++ standard sorting library, used by millions of developers and companies around the world.
------
From sorting to hashing in data structures

After discovering faster sorting algorithms, we tested whether AlphaDev could generalise and improve a different computer science algorithm: hashing.

Hashing is a fundamental algorithm in computing used to retrieve, store, and compress data. Like a librarian who uses a classification system to locate a certain book, hashing algorithms help users know what they’re looking for and exactly where to find it. These algorithms take data for a specific key (e.g. user name “Jane Doe”) and hashes it – a process where raw data is turned into a unique string of characters (e.g 1234ghfty). This hash is used by the computer to retrieve the data related to the key quickly rather than searching all of the data.

We applied AlphaDev to one of the most commonly used algorithms for hashing in data structures to try and discover a faster algorithm. And when we applied it to the 9-16 bytes range of the hashing function, the algorithm that AlphaDev discovered was 30% faster.

This year, AlphaDev’s new hashing algorithm was released into the open-source Abseil library, available to millions of developers around the world, and we estimate that it’s now being used trillions of times a day.

XMerci Cadavre Exquis

[Parsifal]

Franchement l'article Nature sur la "découverte" d'une amélioration pour le tri est une fumisterie. L'optimisation était déjà connue mais pas portée dans la librairie c++ standard, et est de toutes façons une modification mineure (suppression d'une instruction mov). Tout porte à croire que la force brute -i.e. l'essai sans réflexion du plus de trucs possibles- est à l'origine de la redécouverte. Bref, le reviewer de Nature ne comprend ni le deep ni le RL.

Edit: orthographe/formulation

[castralroc]

@scot123
Le marché de l'emploi des data scientistes est complètement saturé. On en a formé beaucoup trop ces deux ou trois dernières années par rapport aux besoins. Les étudiants ont une appetence pour ce métier car c'est vrai c'est intéressant.
Malheureusement, comme toujours, le gros des besoins en IT sont sur des trucs pas sexy du tout, du développement principalement, AWS, et toutes ces conneries. Je commence à voir des CV de datascientistes pour des postes de développeur qu'on propose dans ma boîte, c'est dire s'ils sont désespérés de postuler pour ça.

Les data scientist c’est juste des mecs qui trifouillent des tableurs excels.
C’est un des premiers métiers qui va être remplacé par chatgpt.

[WolfgangK]

@scot123
Le marché de l'emploi des data scientistes est complètement saturé. On en a formé beaucoup trop ces deux ou trois dernières années par rapport aux besoins. Les étudiants ont une appetence pour ce métier car c'est vrai c'est intéressant.
Malheureusement, comme toujours, le gros des besoins en IT sont sur des trucs pas sexy du tout, du développement principalement, AWS, et toutes ces conneries. Je commence à voir des CV de datascientistes pour des postes de développeur qu'on propose dans ma boîte, c'est dire s'ils sont désespérés de postuler pour ça.

Les data scientist c’est juste des mecs qui trifouillent des tableurs excels.
C’est un des premiers métiers qui va être remplacé par chatgpt.

C'est à cause de gens comme vous que la France fait partie du tiers monde en informatique dans les enterprises

[m.enfin]

c'est bien pour cela que la france est à une médailles Fields des EUA (rappel population etats unis >> france)

j'écoutais un redif thinkerview (ok ca donne un léger biais), laissé faire la mondialisation et nous aurons le niveau de vie du paysans chinois .. au mieux
confondre un expert en science des données avec un chef d'équipe pondant des tableaux bords, forcement, ca aide pas

[dioubiban]

On a besoin de data engineer pour designer les plateformes qui vont gérer les flux de données ça oui...

Maintenant en ce qui concerne les data scientists je trouve perso que c'est un terme creux qui recoupe surtout:
- des gars qui vont choisir quels algos prendre et comment le paramétrer
- des gars qui vont utiliser des langages peu usités qui sont spécialisés pour traiter de l'info en masse
- des gars qui vont utiliser des langages peu usités pour sortir d'un magma immonde un échantillon de données qu'il assurera représentatif et pertinent...

Ce ne sont nullement des data scientists au sens réel ou on l'entend : des mecs capables de créer des algos et les entrainer. Lais a t on réellement besoin de ces gens là dans sa boite quand :
- des grosses usines à code donne déjà clé en main des algos entrainés
- on a déjà pas des données de qualité ni gouvernées correctement
- l'open data c'est sympa

Le dernier pseudo data scientist que j'ai croisé chez un leader du retail assurait qu'il fallait faire la moyenne des médiane et quand je lui ai demandé pourquoi il ne pouvait pas faire la médiane des moyennes il m'a répondu : "parce que c'est comme ça qu'on fait, il est expert il est data scientist" (sorti de l'école il y a un an..... )
Ce genre d'enfumage fonctionne quelques années, ce qui permet au DSI de se maintenir un peu plus longtemps (espérance de vie d'un DSI : 3 ans) mais on arrive au bout du cycle je pense.

Pour élargir un peu le débat, la pseudo IA fonctionne quand on a les moyens de mobiliser des millions d'humains pour valider ce qui sort du bouzin. Ex : les captcha google qui lui ont permi de valider ses algos de reconnaissance d'écriture pour ensuite pouvoir numériser les bibliothèques (et nous faire payer l'acces?).
Ca limite alors encore plus le nombre de data scientist dont on a réellement besoin. Des chercheurs oui il en faut, des data scientist bof.
On donne ce titre aux bons codeurs pour les payer plus cher, comme il y a 20 ans les bons codeurs étaient "chef de projet" et il y a 10 ans ils étaient "devops".

[m.enfin]

[dioubiban]

la difference entre l'IA et le machine learning?

L'IA s'écrit avec du powerpoint, le machine learning avec du python

[WolfgangK]

Non. Avant, on fait de l'apprentissage statistique. C'est-à-dire qu'on faisait des démonstrations mathématiques sur des fiabilité de prévisions pour des valeurs suivant certaines distributions statistiques.
Ensuite, on est passé au machine learning : on sait que les données ne suivront pas des distributions sympathiques, on ne cherche pas à prouver quoi que ce soit sur l'excatitude des résultats mais on évalue sur un jeu de test distinct des jeux d'apprentissage et de validation.

EDIT: L'apprentissage statistique, on savait pourquoi ça marchait pas (les données ne respectaient pas les hypothèses de distributions normales). Le machine learning, on ne sait pas bien pourquoi ça marche ☺

[pangloss]

Un peu comme un examen pour un humain. Mais on n'est jamais absolument sûr de rien.

[itrane2000]

j'aimerais savoir s'il y a parmi vous quelqu'un qui a souscrit à la version payante de ChatGPT (20$ par mois) et s'il y a vraiment un intérêt.

[Parsifal]

Je peux bien sûr me tromper, mais j'ai l'impression que Madame Devillers est à l'IA ce que Monsieur Etienne Klein est à la Physique.

En vrai elle n'est pas complètement à côté de la plaque comme Aurélie Jean qui elle est une totale imposture. Sa spécialité c'était les systèmes de langage naturel à l'époque des chaines de Markov. Le truc c'est fait complètement remplacé par les approches à base de deep nets vers 2007. Bref elle n'avait pas la bonne approche, mais était quand même du domaine.

[WolfgangK]

j'aimerais savoir s'il y a parmi vous quelqu'un qui a souscrit à la version payante de ChatGPT (20$ par mois) et s'il y a vraiment un intérêt.

J'ai fait une discussion spécifique sur les LLM.
Perso, je refuse de cautionner ChatGPT, donc j'utilise https://textsynth.com/technology.html ou du local.

[WolfgangK]

https://dlsyscourse.org/lectures/

[henda]

https://arstechnica.com/information-tec ... dia-users/

[WolfgangK]

https://udlbook.github.io/udlbook/

[WolfgangK]

https://arxiv.org/abs/2310.20360

Mathematical Introduction to Deep Learning: Methods, Implementations, and Theory

[henda]

https://civitai.com/models/191956/outfi ... fit2outfit

[wasabi]

c'est laquelle l'originale ?

[slash33]

Je ne vois pas le rapport avec l'IA. On voit bien que ce sont des montages grossiers.

[henda]

https://suno.com/ Un générateur de chansons.

https://suno.com/song/978f2814-221d-40a ... 1d0d1bed43

[WolfgangK]

https://arxiv.org/abs/2404.17625

Alice's Adventures in a Differentiable Wonderland -- Volume I, A Tour of the Land

This book is a self-contained introduction to the design of modern (deep) neural networks. Because the term "neural" comes with a lot of historical baggage, I prefer the simpler term "differentiable models" in the text. The focus of this 250-pages volume is on building efficient blocks for processing nD data, including convolutions, transformers, graph layers, and modern recurrent models (including linearized transformers and structured state-space models). Because the field is evolving quickly, I have tried to strike a good balance between theory and code, historical considerations and recent trends. I assume the reader has some exposure to machine learning and linear algebra, but I try to cover the preliminaries when necessary.
The volume is a refined draft from a set of lecture notes for a course called Neural Networks for Data Science Applications that I teach in Sapienza. I do not cover many advanced topics (generative modeling, explainability, prompting, agents), which will be published over time in the companion website.

[pangloss]

Miles Cranmer présente une nouvelle approche révolutionnaire pour extraire des connaissances scientifiques à partir de réseaux de neurones, qu’il considère comme un changement de paradigme en science. L’idée principale est d'utiliser les réseaux de neurones non seulement comme des outils de prévision ou de classification, mais comme des moyens de découvrir de nouvelles théories scientifiques.

Cranmer s'inspire d'exemples où des modèles de machine learning ont réussi à surpasser des méthodes traditionnelles en dynamique des fluides et en prévision de l’instabilité des systèmes planétaires, malgré un entraînement sur un nombre relativement faible de simulations. Ces réussites suggèrent que les réseaux de neurones pourraient être capables de dévoiler des principes physiques non encore compris.

Le processus traditionnel en science implique de construire des théories à partir de données de faible dimension ou de statistiques résumées. Cependant, Cranmer propose que plutôt que de modéliser directement les données, nous pourrions développer des théories qui expliquent le fonctionnement interne des réseaux de neurones entraînés sur ces données. Cela pourrait nous permettre de comprendre ce que les réseaux de neurones apprennent et comment cela se rapporte à des phénomènes physiques sous-jacents.

Pour y parvenir, Cranmer suggère l'utilisation de la régression symbolique, une méthode qui vise à trouver des expressions analytiques qui optimisent un objectif donné. Cette technique peut être utilisée pour interpréter les modèles prédictifs, en les traduisant dans le langage des mathématiques, plus accessible et interprétable pour les scientifiques.

Il décrit ensuite le concept de "polymathic AI", qui consiste à entraîner des modèles de machine learning sur des ensembles de données vastes et variés pour capturer des principes généraux pouvant s'appliquer à divers domaines scientifiques. Ces "modèles fondamentaux" sont ensuite spécialisés pour des tâches spécifiques à travers un fine-tuning. Cranmer compare cette approche à l'enseignement d'une langue avant d'enseigner la traduction entre deux langues.

Un exemple pratique de cette méthode est l’entraînement d’un modèle sur différentes équations différentielles partielles (EDP) pour observer s'il peut généraliser et mieux performer sur de nouvelles EDP. Les résultats préliminaires indiquent que les modèles formés de cette manière surpassent souvent ceux entraînés de manière spécifique pour une seule tâche.

Cranmer pose finalement des questions rhétoriques sur la simplicité et l'utilité des modèles, suggérant que notre compréhension de ce qui est "simple" peut être influencée par ce qui est familier et utile. Il propose que les modèles de machine learning, en découvrant des algorithmes utiles pour une gamme étendue de disciplines, pourraient redéfinir notre notion de simplicité en science.

En conclusion, Cranmer envisage un avenir où l'IA pourrait radicalement transformer la manière dont nous découvrons, interprétons et utilisons les connaissances scientifiques, avec des implications potentielles pour la formation en sciences et l'évolution des méthodes de recherche.