Recyclage en Intelligence Artificielle

Discussions et revue de presse sur des thèmes ne relevant ni de la politique ni de l'économie et des finances: technologies, emploi, écologie, transport, sport...
Message
Auteur
moinsdewatt
~~+
~~+
Messages : 14250
Enregistré le : 14 avr. 2013, 19:41

Re: Recyclage en Intelligence Artificielle

#101 Message par moinsdewatt » 20 juil. 2019, 16:42

1-0 pour l’humain : ces images auxquelles l’IA ne comprend rien
https://www.journaldugeek.com/2019/07/2 ... rend-rien/

Avatar du membre
Parsifal
-+
-+
Messages : 2180
Enregistré le : 09 févr. 2015, 10:22

Re: Recyclage en Intelligence Artificielle

#102 Message par Parsifal » 20 juil. 2019, 16:45

C'est plus profond que cela : il est démontré (mathématiquement) que les méthodes de classement imparfaites (comme les réseaux de neurones) peuvent être trompés en modifiant relativement peut l'image de manière artificielle. Le défi actuel est de faire que les cas litigieux soient plus ou moins les mêmes que pour les humains.

Avatar du membre
Jeffrey
Modérateur
Modérateur
Messages : 13624
Enregistré le : 12 févr. 2012, 19:59

Re: Recyclage en Intelligence Artificielle

#103 Message par Jeffrey » 20 juil. 2019, 22:02

Parsifal a écrit :
20 juil. 2019, 16:45
C'est plus profond que cela : il est démontré (mathématiquement) que les méthodes de classement imparfaites (comme les réseaux de neurones) peuvent être trompés en modifiant relativement peut l'image de manière artificielle. Le défi actuel est de faire que les cas litigieux soient plus ou moins les mêmes que pour les humains.
c'est la même chose que le watermark, mais appliqué inversement je pense.
Quis custodiet ipsos custodes?

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#104 Message par WolfgangK » 21 juil. 2019, 00:47

Jeffrey a écrit :
20 juil. 2019, 22:02
Parsifal a écrit :
20 juil. 2019, 16:45
C'est plus profond que cela : il est démontré (mathématiquement) que les méthodes de classement imparfaites (comme les réseaux de neurones) peuvent être trompés en modifiant relativement peut l'image de manière artificielle. Le défi actuel est de faire que les cas litigieux soient plus ou moins les mêmes que pour les humains.
c'est la même chose que le watermark, mais appliqué inversement je pense.
Dans les deux cas, on exploite la différence entre ce que perçoit un humain et ce que "perçoit" un ordinateur. Mais la difficulté de la génération de contenu adverse, c'est qu'on a pas la maitrise de l'algo de perception par exemple c'est le constructeur automobile qui décide du programme de reconnaissance de panneaux de signalisation dans une voiture, pas celui qui veut généré un panneau perçu comme un 60 par un humain et comme un 90 par une voiture, alors que c'est celui qui met un watermaking sur une image qui décide du programme utilisé pour récupérer le watermark. C'est vrai que dans le dernier cas on ne maitrise pas les programmes de (re-)compression éventuellement utilisés, mais ils doivent par définition coller aux perceptions humaines.
Donc c'est un peu plus compliqué.

Aussi, je pense que ça n'a pas vraiment de rapport avec le fait que la méthode de classement soit "imparfaite", mais tout simplement que les classifications ne sont pas faites sur les mêmes attributs que les classifications faites par des humains. Et l'on voit ici l'envers du deep-learning où l'avantage est que le système apprend "lui-même" les représentations internes : on a pas besoin d'expertise du domaine pour faire une étape préalable d'extraction de caractéristique (features extraction) mais on a pas la maitrise sur les caractéristiques utilisées.
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
Jeffrey
Modérateur
Modérateur
Messages : 13624
Enregistré le : 12 févr. 2012, 19:59

Re: Recyclage en Intelligence Artificielle

#105 Message par Jeffrey » 21 juil. 2019, 01:06

En fait’ je faisais uniquement référence à une extension possible de ce qui est dit par Parsifal.
Le mot clé est Stéganalyse .
https://pdfs.semanticscholar.org/8460/b ... a239fc.pdf
Quis custodiet ipsos custodes?

moinsdewatt
~~+
~~+
Messages : 14250
Enregistré le : 14 avr. 2013, 19:41

Re: Recyclage en Intelligence Artificielle

#106 Message par moinsdewatt » 21 juil. 2019, 10:27

moinsdewatt a écrit :
20 juil. 2019, 16:42
1-0 pour l’humain : ces images auxquelles l’IA ne comprend rien
https://www.journaldugeek.com/2019/07/2 ... rend-rien/

Ah tiens, même ici mon intelligence humaine pris en défaut plusieurs secondes avant de comprendre :

Image

Avatar du membre
Parsifal
-+
-+
Messages : 2180
Enregistré le : 09 févr. 2015, 10:22

Re: Recyclage en Intelligence Artificielle

#107 Message par Parsifal » 21 juil. 2019, 10:58

Jeffrey a écrit :
21 juil. 2019, 01:06
En fait’ je faisais uniquement référence à une extension possible de ce qui est dit par Parsifal.
Le mot clé est Stéganalyse .
https://pdfs.semanticscholar.org/8460/b ... a239fc.pdf
Le coeur est effectivement que les données sont en grande dimension mais sont placées sur une variété riemannienne non linéaire (manifold dans la suite pour faire plus court). Du coup en utilisant les degrés de liberté introduits par les dimensions "inutiles" de l'espace initial (ie en modifiant les pixels, alors que l'information contenue dans l'image perçue par un humain est plus faible que celle contenue dans les niveaux des pixels) il devient nécessaire possible d'obtenir des résultats surprenant pour nous humains.

Edit: Dans le cas de la classification dans les régions hors du manifold mais proches, la classe peut-être à peu près n'importe quoi. Intuitevement c'est un peu comme avoir fait une tessellation avec certaines cellules énormes car "loin, mais pas trop" de la zone des données réelles.
Pour se "protéger" de ces attaques une idée naturelle est alors de détecter la sortie du manifold, mais cette détection est impossible si l'on arrive à rester au niveau de bruit "naturel" des données, hors en étant malin en grande dimension il est possible de sortir avec un bruit du même ordre (le tout étant basé sur les théorèmes de concentration de la mesure et plus particulièrement les log Sobolev inequalities).

Avatar du membre
Jeffrey
Modérateur
Modérateur
Messages : 13624
Enregistré le : 12 févr. 2012, 19:59

Re: Recyclage en Intelligence Artificielle

#108 Message par Jeffrey » 21 juil. 2019, 11:43

Parsifal a écrit :
21 juil. 2019, 10:58
Jeffrey a écrit :
21 juil. 2019, 01:06
En fait’ je faisais uniquement référence à une extension possible de ce qui est dit par Parsifal.
Le mot clé est Stéganalyse .
https://pdfs.semanticscholar.org/8460/b ... a239fc.pdf
Le coeur est effectivement que les données sont en grande dimension mais sont placées sur une variété riemannienne non linéaire (manifold dans la suite pour faire plus court). Du coup en utilisant les degrés de liberté introduits par les dimensions "inutiles" de l'espace initial (ie en modifiant les pixels, alors que l'information contenue dans l'image perçue par un humain est plus faible que celle contenue dans les niveaux des pixels) il devient nécessaire possible d'obtenir des résultats surprenant pour nous humains.

Edit: Dans le cas de la classification dans les régions hors du manifold mais proches, la classe peut-être à peu près n'importe quoi. Intuitevement c'est un peu comme avoir fait une tessellation avec certaines cellules énormes car "loin, mais pas trop" de la zone des données réelles.
Pour se "protéger" de ces attaques une idée naturelle est alors de détecter la sortie du manifold, mais cette détection est impossible si l'on arrive à rester au niveau de bruit "naturel" des données, hors en étant malin en grande dimension il est possible de sortir avec un bruit du même ordre (le tout étant basé sur les théorèmes de concentration de la mesure et plus particulièrement les log Sobolev inequalities).
c'est bien comme cela que je comprends la chose. Pour faire un lien avec des termes un peu moins techniques et sachant que ton domaine de spécialité n'est pas le mien, je dirais pour expliciter que :
- une variété est un truc, une forme, une chose, sur lequel on peut en tout endroit repérer ce qui est "à côté" avec des coordonnées (des cartes).
- une variété linéaire est une variété telle que dès qu'on a deux points proches, le milieu est aussi pas loin (en fait c'est une histoire de sous espace stable par barycentre)
- il existe plusieurs géométries sur des ensembles de cartes, c'est à dire des manières distinctes d'exprimer une distance, on parle de métrique. L'idée étant que deux points de la chose donnent lieu à deux jeux de coordonnées locales de ce qui est autour, et que dans les coordonnées locales, on peut calculer la distance de plein de façons différentes.
- si on prend une image et qu'on modifie un tout petit peu chaque bit de poids faible de chaque pixel, en utilisant un premier jeu de cartes, on a deux images pas très différentes.
- si on utilise un jeu de cartes qui ne rend pas compte de la proximité des pixels, mais s'appuie sur une métrique qui ne fait pas de la variété une variété linéaire, alors la "distance" entre deux images peut être calculée de manière complètement différente, de sorte que le rendu proximal dans le premier cas n'ait aucun rapport avec le deuxième cas.
- par exemple, si je photographie un chat assis, et sur une deuxième image le chat dans une autre pose, alors la distance exprimée en pixels entre les deux images est très grande. Mais une reconnaissance par réseaux de neurones leur attribuera une distance faible. Si je moyenne pixel par pixel les deux images, cela ne ressemble absolument plus à un chat.

Enfin, tout cela reste empirique, je me demande comment on fait pour être certain que tu construises bien une variété non linéaire (ça ok), mais que tu la munis bien d'une métrique ?
Quis custodiet ipsos custodes?

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#109 Message par WolfgangK » 21 juil. 2019, 12:06

Pour les gens qui aiment les petits dessins : http://colah.github.io/posts/2014-03-NN ... -Topology/
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
Parsifal
-+
-+
Messages : 2180
Enregistré le : 09 févr. 2015, 10:22

Re: Recyclage en Intelligence Artificielle

#110 Message par Parsifal » 21 juil. 2019, 18:27

Jeffrey a écrit :
21 juil. 2019, 11:43
c'est bien comme cela que je comprends la chose. Pour faire un lien avec des termes un peu moins techniques et sachant que ton domaine de spécialité n'est pas le mien, je dirais pour expliciter que :
- une variété est un truc, une forme, une chose, sur lequel on peut en tout endroit repérer ce qui est "à côté" avec des coordonnées (des cartes).
- une variété linéaire est une variété telle que dès qu'on a deux points proches, le milieu est aussi pas loin (en fait c'est une histoire de sous espace stable par barycentre)
Ca c'est plutôt ma vision de fonction localement linéaire. Pour moi linéaire c'est que collecter des informations locales permettant de séparer deux classes (linéairement) permet de gagner de l'information sur l'ensemble de l'espace (avec un bémol pour les espaces de très grande dimensions, tels ceux induits par certains noyaux)
- il existe plusieurs géométries sur des ensembles de cartes, c'est à dire des manières distinctes d'exprimer une distance, on parle de métrique. L'idée étant que deux points de la chose donnent lieu à deux jeux de coordonnées locales de ce qui est autour, et que dans les coordonnées locales, on peut calculer la distance de plein de façons différentes.
- si on prend une image et qu'on modifie un tout petit peu chaque bit de poids faible de chaque pixel, en utilisant un premier jeu de cartes, on a deux images pas très différentes.
- si on utilise un jeu de cartes qui ne rend pas compte de la proximité des pixels, mais s'appuie sur une métrique qui ne fait pas de la variété une variété linéaire, alors la "distance" entre deux images peut être calculée de manière complètement différente, de sorte que le rendu proximal dans le premier cas n'ait aucun rapport avec le deuxième cas.
Oui mais quand on veut catégoriser (apprendre à reconnaître les images de chats) le jeu devient de savoir placer les frontières. C'est (si on a bien bossé) facile dans l'espace du manifold (linéaire en fait), mais dans l'espace initial les frontières peuvent être un peu folles.
- par exemple, si je photographie un chat assis, et sur une deuxième image le chat dans une autre pose, alors la distance exprimée en pixels entre les deux images est très grande. Mais une reconnaissance par réseaux de neurones leur attribuera une distance faible. Si je moyenne pixel par pixel les deux images, cela ne ressemble absolument plus à un chat.
Pour la moyenne, assez curieusement ce n'est pas si clair que l'image ne sera pas celle d'un chat. En tout cas si l'image obtenue n'est pas naturelle, je suis prêt à parier un petit billet que les textures seront celles que l'on retrouve sur les chats. Sur les visages les résultats "moyens" sont assez bluffants. D'autant plus si une partie du loss d'entrainement est "adverse" (comme dans les GANs).
Enfin, tout cela reste empirique, je me demande comment on fait pour être certain que tu construises bien une variété non linéaire (ça ok), mais que tu la munis bien d'une métrique ?
Je ne suis pas certain de comprendre la question : l'on travaille sur un compact de R^d et on apprend (peu importe comment) une fonction f bornée de R^d dans R^k. L'on utilise ensuite la distance euclidienne dans R^k , l'on a donc une métrique dans l'espace des embeddings qui est celui qui nous intéresse réellement. En effet en toute généralité ce n'est pas forcément une métrique sur R^d.

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#111 Message par WolfgangK » 22 juil. 2019, 01:12

Je n'arrive plus à suivre les nouveautés...
https://blog.dominodatalab.com/a-practi ... th-ludwig/
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#112 Message par WolfgangK » 22 juil. 2019, 01:14

pour s'y retrouver dans les documents tutos, etc.
https://ai.google/education/
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

moinsdewatt
~~+
~~+
Messages : 14250
Enregistré le : 14 avr. 2013, 19:41

Re: Recyclage en Intelligence Artificielle

#113 Message par moinsdewatt » 22 juil. 2019, 07:51

Encore combien d'années avant qu'une IA arrive à libeller une telle image ?
Image

Avatar du membre
Jeffrey
Modérateur
Modérateur
Messages : 13624
Enregistré le : 12 févr. 2012, 19:59

Re: Recyclage en Intelligence Artificielle

#114 Message par Jeffrey » 23 juil. 2019, 13:01

Parsifal a écrit :
21 juil. 2019, 18:27
Jeffrey a écrit :
21 juil. 2019, 11:43
c'est bien comme cela que je comprends la chose. Pour faire un lien avec des termes un peu moins techniques et sachant que ton domaine de spécialité n'est pas le mien, je dirais pour expliciter que :
- une variété est un truc, une forme, une chose, sur lequel on peut en tout endroit repérer ce qui est "à côté" avec des coordonnées (des cartes).
- une variété linéaire est une variété telle que dès qu'on a deux points proches, le milieu est aussi pas loin (en fait c'est une histoire de sous espace stable par barycentre)
Ca c'est plutôt ma vision de fonction localement linéaire. Pour moi linéaire c'est que collecter des informations locales permettant de séparer deux classes (linéairement) permet de gagner de l'information sur l'ensemble de l'espace (avec un bémol pour les espaces de très grande dimensions, tels ceux induits par certains noyaux)
Ok, je suis parti sur une approche plus générale de la notion de variété, et je pensais que tu parlais de sous variété affine, donc stable par barycentration. Notre vocabulaire ne coïncidait pas exactement.
Plus simplement, tu as utilisé une appellation classique chez les anglo-saxons de sous espace vectoriel : linear manifold, et tu as exprimé que l'ensemble des images des chats (notre exemple) était un sous ensemble contenu "grossièrement" dans un sous espace de l'espace des images, et que ce sous espace n'est pas stable par combinaison linéaire (ce que tu as appelé variété Riemanienne non linéaire).
Parsifal a écrit : [...]
Enfin, tout cela reste empirique, je me demande comment on fait pour être certain que tu construises bien une variété non linéaire (ça ok), mais que tu la munis bien d'une métrique ?
Je ne suis pas certain de comprendre la question : l'on travaille sur un compact de R^d et on apprend (peu importe comment) une fonction f bornée de R^d dans R^k. L'on utilise ensuite la distance euclidienne dans R^k , l'on a donc une métrique dans l'espace des embeddings qui est celui qui nous intéresse réellement. En effet en toute généralité ce n'est pas forcément une métrique sur R^d.
A partir de là, je peux réexprimer ma question en réinterprétant l'approche:
Tu as donc un espace gigantesque (celui des images possibles=R^d), tu fais opérer une fonction de transformation qui t'amène dans R^k
Ta fonction de transformation est l'action des couches successives de neurones , qui correspond mathématiquement à une fonction f.
Tu t'attends à ce que ta fonction f opère sur le sous ensemble des images des chats pour que le résultat par f soit contenu dans un demi espace avec un hyperplan de séparation dans R^k, ce que tu vérifies avec une métrique associée à n'importe quelle norme euclidienne dans R^d.
Et donc effectivement, même en considérant que l'ensemble des images des chats puisse être interprété comme une variété dans R^d - ce qui n'est pas gagné - ton homéomorphisme f (ça non plus c'est pas gagné) ne transporte pas ta métrique sur ta variété de l'espace de départ.
J'ai essayé de faire coller mes propos à la frontière de nos deux "mondes" :wink: . Tu me dis si ça se comprend ou si je me fourvoie.
Quis custodiet ipsos custodes?

Avatar du membre
Jeffrey
Modérateur
Modérateur
Messages : 13624
Enregistré le : 12 févr. 2012, 19:59

Re: Recyclage en Intelligence Artificielle

#115 Message par Jeffrey » 23 juil. 2019, 13:01

WolfgangK a écrit :
21 juil. 2019, 12:06
Pour les gens qui aiment les petits dessins : http://colah.github.io/posts/2014-03-NN ... -Topology/
fort intéressant, merci.
Quis custodiet ipsos custodes?

Avatar du membre
Parsifal
-+
-+
Messages : 2180
Enregistré le : 09 févr. 2015, 10:22

Re: Recyclage en Intelligence Artificielle

#116 Message par Parsifal » 23 juil. 2019, 16:00

Jeffrey a écrit :
23 juil. 2019, 13:01
Et donc effectivement, même en considérant que l'ensemble des images des chats puisse être interprété comme une variété dans R^d - ce qui n'est pas gagné - ton homéomorphisme f (ça non plus c'est pas gagné) ne transporte pas ta métrique sur ta variété de l'espace de départ.
Mais pourquoi cela serait il désirable que f transporte la métrique de l'espace de départ ? Le but c'est d'obtenir une nouvelle représentation dans laquelle la distance euclidienne se comporte "mieux" que la métrique initiale.

En fait en pratique on se fiche même que cela soit un homéomorphisme car curieusement avoir trop de paramètres libres ne nuit pas autant que prévu. Au passage, une question que je trouve super intéressante sur la SGD dans un espace surparamétrisé est donnée à partir de la 10e minute de cette vidéo


Mais peut-être as tu en tête les algos façons t-SNE ou le but est de trouver une nouvelle représentation en dimension plus faible telle que les distances "faibles" soient préservées dans la nouvelle représentation ? https://lvdmaaten.github.io/tsne/

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#117 Message par WolfgangK » 23 juil. 2019, 16:10

Parsifal a écrit :
23 juil. 2019, 16:00
Jeffrey a écrit :
23 juil. 2019, 13:01
Et donc effectivement, même en considérant que l'ensemble des images des chats puisse être interprété comme une variété dans R^d - ce qui n'est pas gagné - ton homéomorphisme f (ça non plus c'est pas gagné) ne transporte pas ta métrique sur ta variété de l'espace de départ.
Mais pourquoi cela serait il désirable que f transporte la métrique de l'espace de départ ? Le but c'est d'obtenir une nouvelle représentation dans laquelle la distance euclidienne se comporte "mieux" que la métrique initiale.
Au fait, pq on a pas de https://en.wikipedia.org/wiki/Curse_of_dimensionality avec ces espaces de grandes dimensions ?
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#118 Message par WolfgangK » 23 juil. 2019, 16:10

L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
Parsifal
-+
-+
Messages : 2180
Enregistré le : 09 févr. 2015, 10:22

Re: Recyclage en Intelligence Artificielle

#119 Message par Parsifal » 23 juil. 2019, 16:19

WolfgangK a écrit :
23 juil. 2019, 16:10
Au fait, pq on a pas de https://en.wikipedia.org/wiki/Curse_of_dimensionality avec ces espaces de grandes dimensions ?
La (non) réponse se trouve dans la vidéo que j'ai posé juste avant. Les explications sérieuses les moins lointaines sont celles des neural tangent kernels.
Empiriquement, c'est magique : les SGD semblent favoriser la découverte de minimaux locaux qui impliquent des frontières les plus linéaires possibles (il y a quand même moyen de tout planter si on ne fait attention à l'initialisation des poids)

Edit: (edit raté hier), pour être plus complet je précise que certains remettent en doute cette capacité à généraliser

Avatar du membre
Jeffrey
Modérateur
Modérateur
Messages : 13624
Enregistré le : 12 févr. 2012, 19:59

Re: Recyclage en Intelligence Artificielle

#120 Message par Jeffrey » 24 juil. 2019, 11:47

Parsifal a écrit :
23 juil. 2019, 16:00
Jeffrey a écrit :
23 juil. 2019, 13:01
Et donc effectivement, même en considérant que l'ensemble des images des chats puisse être interprété comme une variété dans R^d - ce qui n'est pas gagné - ton homéomorphisme f (ça non plus c'est pas gagné) ne transporte pas ta métrique sur ta variété de l'espace de départ.
Mais pourquoi cela serait il désirable que f transporte la métrique de l'espace de départ ? Le but c'est d'obtenir une nouvelle représentation dans laquelle la distance euclidienne se comporte "mieux" que la métrique initiale.
Déjà je peux te dire que justement, je me demandais comment la transformation pouvait correspondre à une métrique de départ. Donc j'ai déjà compris avec ta réponse que ce n'était pas le but, et ça me rassure. Enfin, disons que je comprends les attendus de cette transformation, mais pour autant, ça laisse songeur sur l'efficacité de l'approche.
Je pense que quelque part, la question du mauvais comportement de la métrique initiale vient sans doute de la recherche d'une métrique associée à une norme euclidienne. Je ne te dis pas que je vois comment contourner le problème, mais en fait, quand tu regardes un chat, tu n'as pas besoin de faire référence à une distance minimale par rapport à un hyperplan suite à une transformation. Je dirais que les comportements décisionnels humains se rapprochent plus d'une évaluation distance ultra-métrique. Ce que je vois ressemble à ce que je connais de l'image d'un chat, plus que d'un chien ou d'un lapin...

Parsifal a écrit : En fait en pratique on se fiche même que cela soit un homéomorphisme car curieusement avoir trop de paramètres libres ne nuit pas autant que prévu.
Oui, il n'y a aucune chance que ce soit un homéomorphisme à y réfléchir deux minutes, cela supposerait que tu aies trouvé exactement la dimension de l'espace local des "images de chat".
Parsifal a écrit : Au passage, une question que je trouve super intéressante sur la SGD dans un espace surparamétrisé est donnée à partir de la 10e minute de cette vidéo
Les algos stochastiques sont surprenants. On sait qu'ils lissent les irrégularités du gradient. Par contre, si je me souviens bien, les améliorations de la méthode de base -Robbin Monro - posent des problèmes de gestion de la mémoire il me semble.
Faudrait que je repotasse tout ça...
Parsifal a écrit : Mais peut-être as tu en tête les algos façons t-SNE ou le but est de trouver une nouvelle représentation en dimension plus faible telle que les distances "faibles" soient préservées dans la nouvelle représentation ? https://lvdmaaten.github.io/tsne/
Je ne connaissais pas, je regarderai et on en discutera (autour d'une bière peut être ?)
Quis custodiet ipsos custodes?

Avatar du membre
Pi-r2
Modérateur
Modérateur
Messages : 36010
Enregistré le : 08 juil. 2005, 19:31

Re: Recyclage en Intelligence Artificielle

#121 Message par Pi-r2 » 27 juil. 2019, 18:37

Parsifal a écrit :
06 juin 2019, 19:31
En très gros, le réseau fait tellement n'importe quoi que des "bonnes" frontières de décisions sont présentes à l'intérieur et il ne reste plus qu'à les "renforcer".
Et c'est très exactement ce qu'il faut faire puisque c'est l'algorithme utilisée par la biologie à toutes les échelles incluant le développement embryonnaire et le développement du cerveau, mais aussi l'évolution des espèces et le comportement des cellules, c'est du hasard contrôlé.
Les bonnes idées triomphent toujours. D'ailleurs c'est à cela qu'on reconnait qu'elles étaient bonnes.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#122 Message par WolfgangK » 28 juil. 2019, 00:09

https://arxiv.org/abs/1907.06902v1

Are We Really Making Much Progress? A Worrying Analysis of Recent Neural Recommendation Approaches
Deep learning techniques have become the method of choice for researchers working on algorithmic aspects of recommender systems. With the strongly increased interest in machine learning in general, it has, as a result, become difficult to keep track of what represents the state-of-the-art at the moment, e.g., for top-n recommendation tasks. At the same time, several recent publications point out problems in today's research practice in applied machine learning, e.g., in terms of the reproducibility of the results or the choice of the baselines when proposing new models. In this work, we report the results of a systematic analysis of algorithmic proposals for top-n recommendation tasks. Specifically, we considered 18 algorithms that were presented at top-level research conferences in the last years. Only 7 of them could be reproduced with reasonable effort. For these methods, it however turned out that 6 of them can often be outperformed with comparably simple heuristic methods, e.g., based on nearest-neighbor or graph-based techniques. The remaining one clearly outperformed the baselines but did not consistently outperform a well-tuned non-neural linear ranking method. Overall, our work sheds light on a number of potential problems in today's machine learning scholarship and calls for improved scientific practices in this area.
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#123 Message par WolfgangK » 04 août 2019, 19:41

L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#124 Message par WolfgangK » 08 août 2019, 00:10

Trouvée dans mon flux twitter :
Client: We'd like to do what big AI labs like OpenAI and DeepMind are doing.
Me: You mean getting into a $1B debt?
Client:
Me:
Client: So is there any free pretrained model that you suggest that we use?
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
Parsifal
-+
-+
Messages : 2180
Enregistré le : 09 févr. 2015, 10:22

Re: Recyclage en Intelligence Artificielle

#125 Message par Parsifal » 08 août 2019, 07:54

Sauf qu'ils l'ont eu en investissement et pas en dette leur milliard.

Faire un openAI public en France, il y a encore deux ans c'était encore possible pour moins de 50 millions par an (en incluant les coûts des GPUs). Mais cela aurait fâché pas mal de monde se considérant dans l'IA mais hors du machine learning.

Maintenant c'est trop tard, vu les différences d'investissement, j'ai de plus en plus tendance à penser que le mieux qu'il puisse arriver à la France est un nouvel hiver de l'IA : cela nous ferait gagner un cycle économique avant de rentrer dans le tiers monde.

Avatar du membre
Pi-r2
Modérateur
Modérateur
Messages : 36010
Enregistré le : 08 juil. 2005, 19:31

Re: Recyclage en Intelligence Artificielle

#126 Message par Pi-r2 » 08 août 2019, 09:53

dire que pour développer une vraie IA il suffirait d'une ordinateur de base...
Il suffit de trouver le bon algo, celui qu'utilise la nature pour coder sur environ 6Gb tout ce qui est nécessaire pour faire fonctionner un cerveau humain, y compris l'alimentation et les périphériques
Les bonnes idées triomphent toujours. D'ailleurs c'est à cela qu'on reconnait qu'elles étaient bonnes.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#127 Message par WolfgangK » 08 août 2019, 10:35

3B1B toujours avec des visualisation très sympa !
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
saturne
+
+
Messages : 2950
Enregistré le : 24 déc. 2011, 22:36

Re: Recyclage en Intelligence Artificielle

#128 Message par saturne » 10 août 2019, 20:33

Pi-r2 a écrit :
08 août 2019, 09:53
dire que pour développer une vraie IA il suffirait d'une ordinateur de base...
Il suffit de trouver le bon algo, celui qu'utilise la nature pour coder sur environ 6Gb tout ce qui est nécessaire pour faire fonctionner un cerveau humain, y compris l'alimentation et les périphériques
Ce que je vais dire va faire pédant, mais c'est pour situer la question que je pose après
Au XVIIIe, des gens comme Leibniz et surtout Kant ont décortiqué l'esprit humain avec le schématistme de l'intuition, les catégories logiques de l'entendement et les principes de la raison. Kant écrit une introduction célèbre (à la Critique de la raison pure 1781) où il explique en avoir fini avec la métaphysique. Il fixe définitivement la méthode scientifique sur l'expérience possible,en montre les limites, en décrit la méthodologie (sa "critique"). A partir de là, une fois ruiné le dogmatisme (principe d'autorité) et admis la stérilité profonde du scepticisme (raison paresseuse), l'Europe du XIX démarre en trombre dans l'ère industrielle (technique), établit les fondements de la Justice fondée sur les faits et les preuves (Fichte, Code civil napoléonnien, par ex), opère une révolution culturelle (Romantisme), explore méthodiquement (et à pas de géant) les lois de la Nature, expulse le "psychologisme" pour faire la place aux sciences humaines (lois économiques -- Ricardo, Say, Marx, etc. et sociologiques (fin du XIX))

Bref, quand on parle d'intelligence, en général, on arrive à savoir de quoi on parle. Parce que l'intelligence c'est justement la capacité à réfléchir sur elle-même.
Quand je lis sur l'I.A. ça ne me dérange pas qu'on on parle d'"intelligence", d'"apprentissage", etc. Je comprends bien que ce sont des métaphores. Mais prendre ça au sérieux me fait l'effet désagréable de charlatans qui vendent de la lotion capillaire.ç


=== J'expose mon analyse du problème.

-- L'essentiel des avancées en IA concernent la reconnaissance de formes. C'est à dire, on ne s'occupe que de codifier la perception sensible, reproduire le fonctionnement de la perception humaine au moment d'identifier un objet. N'est-on pas en deça de l'intelligence ? Pourquoi désigner par I.A. la reconnaissance de formes. Ça me déroute. Et dans les explications (comme la vidéo précédente sur l'usage de filtres ou 'layers'), je ne vois que l'application (algorithmique) de probabilités.
Donc, l'intelligence qu'on nous vante, elle se trouve où exactement ? Je ne doute pas que les mathématiques soient importantes, et que la mise au point de techniques (probabilistiques) de reconnaissance de formes permette de les faire progresser, mais les mathématique ne sont pas destinées à "penser". Elle servent à construire une représentation de concepts intuitifs. On est très en deçà de la pensée, et même de la perception que pourrait avoir un animal sur son propre environnement.

-- Pourtant, on parle bien d'apprentissage, et j'ai d'ailleurs lu des papers sur l'IA qui renvoient explicitement au "schématisme" de l'intuition déjà décrit par Kant.
Je suppose que ça donne les exemples des programmes qui gagnent au Jeu de Go ou aux echecs, mais en fait, en lisant un peu, je me suis aperçu que ce sont des jeux qui évoluent en fait -- je crois -- dans un domaine élargi de la reconnaissance de formes.
La différence c'est que la forme qu'il s'agit de reconnaître, elle est orientée selon une finalité prédéterminée.
C'est à dire, le but étant posé (qu'il faut gagner la partie, et c'est une cause finale), il s'agit de déterminer le chemin le plus court.

L'illusion d'une "intelligence" dans le cas du jeu d'échec, je suppose, vient du fait que ce sont des "jeux", c-a-d des finalités que seul l'humain est capable de concevoir. L'illusion d'intelligence, elle est dans l'exploitation d'un jeu que seul l'homme peut vouloir pratiquer. Mais d'intelligence, à proprement parler, il n'y en a pas. Il y a une émulation de la "réflexion" mais l'intelligence prorprement dite, c'est surtout l'aptitude à concevoir des fins qui ne sont pas celles données d'avance par instinct. Un programme qui joue aux échecs et apprend par réitération à parvenir à sa fin, en jouant simplement contre lui-même, procède de manière tout à fait mécanique. Il n'a pas reconnu et ne peut pas reconnaître par lui-même une autre fin que celle qu'on lui a dit de poursuivre
Même chose pour les automates de cette entreprise américaine capables de monter des escaliers ou d'ouvrir une porte.

Pour illustrer: Un singe qui trouve une pomme dans un labyrinthe peut réflechir (apprendre) le chemin le plus court, mais il ne va pas s'interroger sur la finalité que poursuit son gardien à vouloir cacher une pomme au lieu de la lui donner directement.
Un être humain par contre, aura vite fait de prendre son gardien pour un crétin, réflexion qui n'appporte rien à la tâche de trouver la pomme, mais qui en réalité est la première preuve d'intelligence. Là où l'humain va commencer à raisonner, c'est sur la manière de "domestiquer" son gardien pour qu'il lui mette la pomme dans une assiette, voire la manière de prendre la place de son gardien :mrgreen: C'est à dire, si le singe était capable d'enseigner à son tour à son gardien une autre finalité que celle qu'on lui montre, alors oui, le singe serait proprement intelligent. (et ce ne serait plus un singe, mais un "humain" d'une autre espèce, en fait.)

-- En un mot, l'IA ne raisonne pas sur les objets qu'on lui montre: elle ne dépasse pas le stade de la perception sensible, ou du calcul du chemin le plus court pour une fin qui lui est donnée d'avance.

La capacité de raisonner implique forcément la capacité de communiquer le raisonnement qu'on a mis au point.

===

Bon, maintenant que j'ai fait mon numéro de pédantisme, si ça se trouve, ça sera un pretexte pour approfondir le topic, mais ma question à ceux qui suivent un peu les developpements de l'IA c'est donc celle-ci

Est-ce que vous avez eu vent de véritables recherches en I.A., c'est à dire

-- qui vont au delá de la reconnaissance de formes, ou de l'application mécanique de finalités (gagner une partie) :
Déjà, si vous savez de papers où on a réussi à modéliser valablement le "schématisme" de la réflexion, je suis preneur.

Surtout:
-- qui tentent de modéliser véritablement un raisonnement d'expérience, donc, et c'est à dire, où la machine peut ensuite exposer (transmettre) son raisonnement ?

Je ne dis pas qu'on y soit arrivé. Mais il doit bien y avoir du monde qui s'y est mis ?

J'aimerais savoir où aller voir, ou si ça porte un autre nom (on vit dans un monde bizarre où désigne comme "intelligent" la mécanique des jeux).
Ça ne m'étonnerait pas qu'on utilise un autre nom pour étudier l'intelligence.
Je vois ça d'ici, ils l'auront appelé "Ontologie artificielle" (j'ai souvenir de pubs en marketing ou en psychologie qui font de l'"ontologie")
Modifié en dernier par saturne le 11 août 2019, 00:37, modifié 1 fois.
Billets philophynanciers crédit-consuméristes : http://ppcc-fr.blogspot.fr/?view=mosaic

Avatar du membre
Jeffrey
Modérateur
Modérateur
Messages : 13624
Enregistré le : 12 févr. 2012, 19:59

Re: Recyclage en Intelligence Artificielle

#129 Message par Jeffrey » 10 août 2019, 23:59

C’est très confus.
Vous ne posez pas clairement ce que vous donnez comme définition à l’intelligence. On ne définit pas une notion par ce qu’elle n’est pas, comme avec votre exemple du singe dans un labyrinthe. On ne la définit pas plus comme étant la capacité à réfléchir sur elle même, car c’est une pseudo définition récursive. Quant à la définir par un exemple, je laisse cela de côté.
Vous excluez par principe certaines fonctions cognitives, comme la reconnaissance ou l’application ou l’elaboration d’une stratégie.
Vous affirmez que les mathématiques servent à construire une représentation des concepts intuitifs.
Vous faites une erreur de base sur l’objectif des techniques d’IA, qui n’ont pas pour objet la perception sensible, qui est une donnée de départ sous la forme d’une image par exemple, mais de sa classification, c’est à dire l’action de discernement.
Vous affirmez d’autorité que là capacité de raisonner implique forcément la capacité de communiquer le raisonnement sans même vous apercevoir que là également vous avez une approche récursive de la notion que vous prétendez définir...
Il y a encore pas mal de choses mal embarquées pour poser un raisonnement simple et cohérent de base pour discuter y compris philosophiquement des manifestations de l’intelligence.
Toutes ces affirmations sont très discutables pour ne pas dire auto scellées par votre approche, et je vois mal comment répondre tant la méthodologie et les postulats sont mal définis.
Vous avez posé votre conclusion sous la forme d’une question, mais cela reste une affirmation mal posée quand même.
Quis custodiet ipsos custodes?

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#130 Message par WolfgangK » 11 août 2019, 00:21

L'intelligence, pour moi c'est la capacité à réagir de façon pertinente à des données nouvelles (donc pas du par cœur, nécessité de généralisation).
Pour certains, j'ai l'impression que c'est obligatoirement lié à une conscience, et ça me rappelle les propos de Denett à ce sujet.
Il faisait l'analogie avec la magie, la "vraie magie" des magiciens et la "fausse magie", cette dernière étant les "tours de magie" des prestidigitateurs : toute "magie" compréhensible, pour laquelle on connait "le truc" étant par définition de la "fausse magie".
J'ai l'impression que c'est pareil avec l'intelligence.
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
saturne
+
+
Messages : 2950
Enregistré le : 24 déc. 2011, 22:36

Re: Recyclage en Intelligence Artificielle

#131 Message par saturne » 11 août 2019, 01:51

Jeffrey a écrit :
10 août 2019, 23:59
Vous faites une erreur de base sur l’objectif des techniques d’IA, qui n’ont pas pour objet la perception sensible, qui est une donnée de départ sous la forme d’une image par exemple, mais de sa classification, c’est à dire l’action de discernement.
Eh bien, la réponse là me convient tout à fait. La capacité de produire une classification de formes perçues en vertu de leur affinité, de leur répétition, ou de n'importe quel autre principe, oui, c'est certainement une action intelligente.

Mais la video ci-dessus opère réllement une classification ?
Ou bien est-ce simplement une reconnaissance des images, en vue d'une classification donnée d'avance ?

Ce que j'avais compris de l'exemple de la video, c'est que la classification est toujours donnée d'avance: 10 chiffres. On sait d'avance qu'on ne peut reconnaître que 10 chiffres.
On demande alors à l'algorithme de discerner dans la masse de images les formes qui peuvent rentrer dans la classification. Les autres formes (par exemple des lettres) ne seront simplement pas reconnues, puisque la classification est donnée, ce n'est pas le programme lui-même qui "produit" un classement de 10 chiffres.

Le programme si j'ai bien compris, ne fait que reconnaître les formes qu'on lui a donné à discerner. D'ailleurs, il produit seulement des statistiques de réussite.
S'il avait produit un classement, on se serait attendu à ce qu'il produise le classement de 10 chiffres !



Un action proprement intelligente serait plutôt celle qui est capable de _construire_ la classification (d'identifier 10 formes homogènes -- nos chiffres -- dans l'agregat de formes qu'on lui propose en entrée), et donc à la fin de dire : "ces images peuvent être classées et ramenées à 10 "concepts" correspondants à nos 10 chiffres -- dans le système décimal).

Pour montrer la différence que je fais entre une simple reconnaissance de formes (orientée par avance) et une classification proprement intelligente (où des formes, non classées ni donc identifiées d'avance, seront dégagées par le programme d'I.A), imaginons un algoritme qui s'avère capable, à partir de textes alphanumériques :

-- de discerner dans la forme brute des pages en noir et blanc, des paragraphes, puis dans ces paragraphes, des mots, enfin des lettres. A chaque fois, ce sont des formes noir sur blanc plus ou moins délimitées. Mais la répétition de certaines des formes atomiques lui permet ainsi d'identifier nos "lettres"

-- ensuite, dans ces formes atomiques, il conclut que certaines formes comme { à á ä } sont en fait des variantes de la forme atomique 'a' : il construit donc un sous-classement de lettres accentuées, et même de toutes les accentuations possibles pour certaines lettres -- voyelles -- mais pas pour d'autres -- consonnes --)

-- ensuite, il arrive à conclure que les formes { A , a } puis { B , b } sont des déclinaisons de |a|. Car de mêmes formes-"mots" homogènes utilisent les 2 déclinaisons de lettres. Donc c'est la même lettre, avec 2 déclinaisons de forme

-- ensuite, il arrive à distinguer les chiffres comme un ensemble distinct des lettres, simplement parce que les chiffres se regroupent ensemble. les lettres aussi mais de leur côté.

-- etc.



Bref, après mille et une manière de raisonner, suivant certains principes logiques (=principes qu'on inscrit comme règle à suivre par le programme) le programme m'affiche alors (=il me transmet donc ses conclusions) :
-- qu'il a été capable de reconnaître et de classer à partir du texte 26 lettres (notre alphabet), dont certaines avec des variantes (accentuées)
-- qu'il a été capable de reconnaître que les minuscules et les majuscules correspondent aux mêmes lettres du classement précédent.
-- mais qu'il n'a pas été capable de classer les autres agrégats de formes (il reconnaît des mots. des paragraphes, mais il ne peut pas les "classer"). Autrement dit, il a besoin de meilleures règles de spécification et de "construction" pour arriver à un classement pour les "mots", pour les "paragraphes", etc.

Alors dans ce cas, oui, cette action-là serait une classification intelligente. Et on peut étudier des procédés d'apprentissage.
Surtout, on peut étudier les "principes" de la démarche d'intelligence, à la manière de règles : spécification de formes, homogénéité de formes, regroupement de formes, répétition de formes, succession de formes etc, (ce qu'on appelle le "schématisme" de la réflexion, en fait)


Mon exemple imaginaire permet-il de mieux comprendre ce que j'appelle intelligence (l'aptitude à produire un classement).
Et l'I.A. comme celle décrite par la vidéo précédente produit-elle ce classement ?

Car moi je ne vois pas en quoi la vidéo aboutit à un classement intelligent. Pour moi, elle ne fait qu'une reconnaissance de formes pré-determinée d'avance.
Billets philophynanciers crédit-consuméristes : http://ppcc-fr.blogspot.fr/?view=mosaic

Avatar du membre
Parsifal
-+
-+
Messages : 2180
Enregistré le : 09 févr. 2015, 10:22

Re: Recyclage en Intelligence Artificielle

#132 Message par Parsifal » 11 août 2019, 07:54

Regarde du côté du self supervised learning.

Avatar du membre
Pi-r2
Modérateur
Modérateur
Messages : 36010
Enregistré le : 08 juil. 2005, 19:31

Re: Recyclage en Intelligence Artificielle

#133 Message par Pi-r2 » 11 août 2019, 08:46

Nous n'avons pas encore de définition précise de ce qu'est l'intelligence*
Je pense que si nous arrivions à cette définition précise , il suffirait de la convertir en algorithme pour créer une IA "vraie".
Les approches actuelles de l'IA miment des comportements que nous considérons, ou avons considéré comme des marques d'intelligence.
En ce sens elles approchent le concept d'intelligence, et c'est bien cette démarche d'approximation qui va permettre de définir finalement l'intelligence.

* on ne fait même pas la distinction entre le processus et le résultat. On va dire d'un bébé humain qu'il est intelligent alors qu'il ne parle même pas et a un score de 0 à un test de QI "pour adulte".
saturne a écrit : imaginons un algorithme qui s'avère capable, à partir de textes alphanumériques :
Ce que tu décris est une "simple" processus de compression de données, processus indispensable pour une entité intelligente (sinon la quantité d'information est trop rapidement quasi infinie ), mais ce n'est qu'un des processus nécessaire à l'intelligence. Il serait réalisé mais seul, tu ne considérerais pas le résultat comme intelligent.
WolfgangK a écrit :Pour certains, j'ai l'impression que c'est obligatoirement lié à une conscience

La conscience de bas niveau est nécessaire pour assurer le fonctionnement correct d'un certain nombres de capteurs. Il faut à minima un feedback sur l'état des capteurs et leur fonctionnement (orienter un oeil, une caméra).
L'intelligence est "libre" de prendre pour objet de son étude tout sujet qu'elle estime digne d'intérêt. Dès que l'intelligence se prend elle même pour objet, on accède à la conscience.
Cette conscience apparaît tardivement chez l'humain.
Les bonnes idées triomphent toujours. D'ailleurs c'est à cela qu'on reconnait qu'elles étaient bonnes.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.

vpl
~~+
~~+
Messages : 13057
Enregistré le : 20 sept. 2008, 13:12

Re: Recyclage en Intelligence Artificielle

#134 Message par vpl » 11 août 2019, 09:17

Parsifal a écrit :
23 juil. 2019, 16:00
Jeffrey a écrit :
23 juil. 2019, 13:01
Et donc effectivement, même en considérant que l'ensemble des images des chats puisse être interprété comme une variété dans R^d - ce qui n'est pas gagné - ton homéomorphisme f (ça non plus c'est pas gagné) ne transporte pas ta métrique sur ta variété de l'espace de départ.
Mais pourquoi cela serait il désirable que f transporte la métrique de l'espace de départ ? Le but c'est d'obtenir une nouvelle représentation dans laquelle la distance euclidienne se comporte "mieux" que la métrique initiale.

En fait en pratique on se fiche même que cela soit un homéomorphisme car curieusement avoir trop de paramètres libres ne nuit pas autant que prévu. Au passage, une question que je trouve super intéressante sur la SGD dans un espace surparamétrisé est donnée à partir de la 10e minute de cette vidéo


Mais peut-être as tu en tête les algos façons t-SNE ou le but est de trouver une nouvelle représentation en dimension plus faible telle que les distances "faibles" soient préservées dans la nouvelle représentation ? https://lvdmaaten.github.io/tsne/
Le mec parle d'intelligence mais à une tête d'idiot : ca ne colle pas !

Avatar du membre
Parsifal
-+
-+
Messages : 2180
Enregistré le : 09 févr. 2015, 10:22

Re: Recyclage en Intelligence Artificielle

#135 Message par Parsifal » 11 août 2019, 09:38

vpl a écrit :
11 août 2019, 09:17
Le mec parle d'intelligence mais à une tête d'idiot : ca ne colle pas !
La réaction des gauchistes face à l'intelligence, y compris sous couvert d'humour, ne cessera jamais de me surprendre.

vpl
~~+
~~+
Messages : 13057
Enregistré le : 20 sept. 2008, 13:12

Re: Recyclage en Intelligence Artificielle

#136 Message par vpl » 11 août 2019, 09:52

Si tu me vois en gauchiste, je comprends ton intérêt pour l'intelligence artificielle.

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#137 Message par WolfgangK » 11 août 2019, 12:54

Parsifal a écrit :
11 août 2019, 09:38
vpl a écrit :
11 août 2019, 09:17
Le mec parle d'intelligence mais à une tête d'idiot : ca ne colle pas !
La réaction des gauchistes face à l'intelligence, y compris sous couvert d'humour, ne cessera jamais de me surprendre.
C'est pas très sympa pour moi :cry:
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
Parsifal
-+
-+
Messages : 2180
Enregistré le : 09 févr. 2015, 10:22

Re: Recyclage en Intelligence Artificielle

#138 Message par Parsifal » 11 août 2019, 13:21

WolfgangK a écrit :
11 août 2019, 12:54
Parsifal a écrit :
11 août 2019, 09:38
vpl a écrit :
11 août 2019, 09:17
Le mec parle d'intelligence mais à une tête d'idiot : ca ne colle pas !
La réaction des gauchistes face à l'intelligence, y compris sous couvert d'humour, ne cessera jamais de me surprendre.
C'est pas très sympa pour moi :cry:
Haha l'on dévie largement, mais pour moi la frontière du gauchisme (notion fluctuante au cours de l'histoire) est à l'heure actuel au niveau de la reconnaissance de l'importance de l'effort personnel et de l'acceptation du fait que les capacités intellectuelles sont dans leur développement pas si différentes des capacités musculaires. Le gauchiste donne l'impression de croire que répéter une idée suffisamment la rend vraie et ne s'embarrasse pas avec les éléments contrevenant à son idéologie.
Jason Lee est a été assistant professor à Princeton et est en ce moment à l'université de californie du sud (pas certain de son affiliation exacte actuelle), S'il faisait du football il serait en Ligue 1.

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#139 Message par WolfgangK » 11 août 2019, 22:11

Image
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
Jeffrey
Modérateur
Modérateur
Messages : 13624
Enregistré le : 12 févr. 2012, 19:59

Re: Recyclage en Intelligence Artificielle

#140 Message par Jeffrey » 11 août 2019, 22:57

saturne a écrit :
11 août 2019, 01:51
Jeffrey a écrit :
10 août 2019, 23:59
Vous faites une erreur de base sur l’objectif des techniques d’IA, qui n’ont pas pour objet la perception sensible, qui est une donnée de départ sous la forme d’une image par exemple, mais de sa classification, c’est à dire l’action de discernement.
Eh bien, la réponse là me convient tout à fait. La capacité de produire une classification de formes perçues en vertu de leur affinité, de leur répétition, ou de n'importe quel autre principe, oui, c'est certainement une action intelligente.

Mais la video ci-dessus opère réllement une classification ?
Ou bien est-ce simplement une reconnaissance des images, en vue d'une classification donnée d'avance ?

Ce que j'avais compris de l'exemple de la video, c'est que la classification est toujours donnée d'avance: 10 chiffres. On sait d'avance qu'on ne peut reconnaître que 10 chiffres.
Non, pas du tout.
Il y a des modèles non supervisés.
saturne a écrit : On demande alors à l'algorithme de discerner dans la masse de images les formes qui peuvent rentrer dans la classification. Les autres formes (par exemple des lettres) ne seront simplement pas reconnues, puisque la classification est donnée, ce n'est pas le programme lui-même qui "produit" un classement de 10 chiffres.

Le programme si j'ai bien compris, ne fait que reconnaître les formes qu'on lui a donné à discerner. D'ailleurs, il produit seulement des statistiques de réussite.
S'il avait produit un classement, on se serait attendu à ce qu'il produise le classement de 10 chiffres !
Il y a des méthodes qui font exactement ce que vous décrivez, dans d’autres problématiques contextuelles.
saturne a écrit : Un action proprement intelligente serait plutôt celle qui est capable de _construire_ la classification (d'identifier 10 formes homogènes -- nos chiffres -- dans l'agregat de formes qu'on lui propose en entrée), et donc à la fin de dire : "ces images peuvent être classées et ramenées à 10 "concepts" correspondants à nos 10 chiffres -- dans le système décimal).

Pour montrer la différence que je fais entre une simple reconnaissance de formes (orientée par avance) et une classification proprement intelligente (où des formes, non classées ni donc identifiées d'avance, seront dégagées par le programme d'I.A), imaginons un algoritme qui s'avère capable, à partir de textes alphanumériques :

-- de discerner dans la forme brute des pages en noir et blanc, des paragraphes, puis dans ces paragraphes, des mots, enfin des lettres. A chaque fois, ce sont des formes noir sur blanc plus ou moins délimitées. Mais la répétition de certaines des formes atomiques lui permet ainsi d'identifier nos "lettres"

-- ensuite, dans ces formes atomiques, il conclut que certaines formes comme { à á ä } sont en fait des variantes de la forme atomique 'a' : il construit donc un sous-classement de lettres accentuées, et même de toutes les accentuations possibles pour certaines lettres -- voyelles -- mais pas pour d'autres -- consonnes --)

-- ensuite, il arrive à conclure que les formes { A , a } puis { B , b } sont des déclinaisons de |a|. Car de mêmes formes-"mots" homogènes utilisent les 2 déclinaisons de lettres. Donc c'est la même lettre, avec 2 déclinaisons de forme

-- ensuite, il arrive à distinguer les chiffres comme un ensemble distinct des lettres, simplement parce que les chiffres se regroupent ensemble. les lettres aussi mais de leur côté.

-- etc.
Votre problème est que vous ne faites pas la distinction entre l’acte sémantique et la codification de représentation.
Par exemple les romains n’associaient pas un symbole spécifique à un entier de 1 à 9 pour repérer un nombre et ensuite organiser une disposition de ces symboles successifs pour identifier une numération de l’ensemble des entiers. Ils ne disposaient pas du zéro.
Cela veut dire plusieurs choses : les symboles IV associés dans cet ordre signifiaient 4 tandis que VI signifiaient 6. Il n'y avait donc pas association d'un symbole et d'un concept comme cela semble naturel dans votre représentation de l'intelligence, mais seulement une codification conventionnelle d'un signifiant. De même, les romains ignoraient le zéro, qui n'est pas un concept semblable à 1ou 2 ou 5 car il ne représente pas une quantité, mais un espace qui n'a pour utilité que de rendre l'action calculatoire plus facile. Vous pourrez en parler à Sifar dont le pseudo est le mot primitif pour désigner le zéro et qui signifie "espace" ou "vide". Là encore, c'est une pure convention d'écriture qui s'associe à une sémantique d'une manière totalement conventionnelle, et ne peut se réduire à un acte "intelligent".
De même, il n'est pas acquis par principe qu'un symbole soit conventionnellement associé à un concept, parfois cela peut être plusieurs, comme par exemple le double s allemand qui peut soit s'écrire double s, soit s'écrire avec une sorte de B. Inversement, un symbole écrit peut être associé à plusieurs concepts, suivant l'organisation des symboles qui l'avoisinent, ou même simplement suivant un contexte. Il existe des consonnes dures/molles ou d'autres exemples qui rompent cette association naturelle que vous pensez exister entre une représentation symbolique conventionnelle - un alphabet - et l'organisation des symboles - une syntaxe - et un signifiant très éloigné.
En d'autres termes, on pourrait écrire les nombres de 0 à 10 avec 15 ou 25 symboles distincts que cela ne changerait rien à l'affaire de sémantique, et il est strictement impossible de déduire une convention de représentation à partir d'un corpus échantillonné. Je vous renvoie aux travaux de Champollion et au fait qu'encore aujourd'hui on est strictement incapables de déchiffrer des écrits des peuples d'Amérique pré-colombienne. Ou encore l'épisode du déchiffrement d'Enigma...
Ce que vous attendez d'une machine est donc qu'elle opère une classification d'ordre quasi sémantique et qu'elle opère des rapprochements qui ne sont que des conventions strictement arbitraires. Cela n'a strictement aucun sens.
saturne a écrit : Bref, après mille et une manière de raisonner, suivant certains principes logiques (=principes qu'on inscrit comme règle à suivre par le programme) le programme m'affiche alors (=il me transmet donc ses conclusions) :
-- qu'il a été capable de reconnaître et de classer à partir du texte 26 lettres (notre alphabet), dont certaines avec des variantes (accentuées)
-- qu'il a été capable de reconnaître que les minuscules et les majuscules correspondent aux mêmes lettres du classement précédent.
-- mais qu'il n'a pas été capable de classer les autres agrégats de formes (il reconnaît des mots. des paragraphes, mais il ne peut pas les "classer"). Autrement dit, il a besoin de meilleures règles de spécification et de "construction" pour arriver à un classement pour les "mots", pour les "paragraphes", etc.
J'ai expliqué plus haut pourquoi votre description d'un attendu n'a pas de sens absolu, mais se réfère à un déroulé implicite qui exprime que vous n'avez pas extrait avec précision ce que vous décririez comme un acte intelligent. D'autant qu'encore une fois, vous procédez à partir d'un exemple. On ne définit pas un concept par une situation où il s'applique.
saturne a écrit : Alors dans ce cas, oui, cette action-là serait une classification intelligente. Et on peut étudier des procédés d'apprentissage.
Surtout, on peut étudier les "principes" de la démarche d'intelligence, à la manière de règles : spécification de formes, homogénéité de formes, regroupement de formes, répétition de formes, succession de formes etc, (ce qu'on appelle le "schématisme" de la réflexion, en fait)
C'est ce que fait l'IA précisément dans le cadre des techniques de reconnaissance de caractères. Mais on n'a même pas besoin d'IA pour ça, c'est de la classification topologique de base. ça existe et ça marche très bien depuis cinquante ans.
Quis custodiet ipsos custodes?

Avatar du membre
saturne
+
+
Messages : 2950
Enregistré le : 24 déc. 2011, 22:36

Re: Recyclage en Intelligence Artificielle

#141 Message par saturne » 13 août 2019, 00:43

Parsifal a écrit :
11 août 2019, 07:54
Regarde du côté du self supervised learning.
Il y a des modèles non supervisés.
Modèle non supervisé.
https://fr.wikipedia.org/wiki/Apprentis ... rvis%C3%A9

Merci. Des sources que vous savez intéressantes ? (papers , si possible)

P.S. : Je savais bien qu'on n'appellerait pas la chose par son nom. Ça en dit long, d'ailleurs, sur le délire marketing autour de l'IA., d'appeler "non supervisé" un modèle qui cherche à reproduire l'intelligence. En même temps, c'est bien trouvé.
Jeffrey a écrit : Votre problème est que vous ne faites pas la distinction entre l’acte sémantique et la codification de représentation.
Par exemple les romains n’associaient pas un symbole spécifique à un entier de 1 à 9 pour repérer un nombre et ensuite organiser une disposition de ces symboles successifs pour identifier une numération de l’ensemble des entiers. Ils ne disposaient pas du zéro
Mais les Romains savaient compter. Et on ne demande pas à l'IA de savoir compter (seulement de reproduire une technique, celui qui compte, c'est l'humain).
De toutes façons, si opérer un classement relève de l'acte sémantique, vos explications sous-entendent que les concepts "dégagés sans supervision" en un premier temps, soient utilisables dans un second temps pour procéder à la classification de nouveaux matériaux (sur un nouveau stock d'images).

Donc, à la fin du premier temps, un modèle sans supervision est-il capable d'expliquer par quel procédé il est arrivé à sa classification ?
Je vais voir. Si vous m'orientez un peu, peut-être que je pourrai revenir plus vite avec de nouvelles confusions à me corriger :D

PiR2 a écrit :Nous n'avons pas encore de définition précise de ce qu'est l'intelligence*
Je pense que si nous arrivions à cette définition précise , il suffirait de la convertir en algorithme pour créer une IA "vraie".
A Pir2: Prenez cette proposition : "Une machine n'est pas intelligente au sens où un humain (de naissance) est intelligent" -- on est tous d'accord ? Alors vous n'avez pas besoin de partir d'une définition de l'intelligence: le critère du vrai et du faux, c'est vous ! Ensuite, rien ne vous empêche de décomposer les fondements logiques, et pratiques qui vous assurent que la proposition précédente est nécessairement, et universellement vraie. Ça s'appelle une "critique" et il suffit de l'avoir faite intégralement une fois dans l'histoire, ce qui n'empêche pas ceux qui veulent s'en assurer de recommencer (c'est vrai que ça serait bien d'avoir des versions plus "modernisées" de Kant, c'est pour ça que je suis curieux de ce qu'on fait en I.A.: il y a des cours de formation qui se perdent, j'ai l'impression[1])

Bref, tout être humain est capable de différencier l'IA. de l'intelligence humaine, plus ou moins confusément, mais pas avec moins d'assurance ou de vérité logique. Une machine ne peut simplement pas se choisir une fin (elle est déjà conçue en fonction d'une fin utile). Le concept d'une fin implique celui de la liberté. Ça n'empêche pas que le travail de "modélisation" de l'I.A., avec des fins établies par avance (qui ne sont pas libres) permet de mettre au point des techniques de calcul au service de l'intelligence humaine qui, elle, est assurément libre.




__
[1] Enfin, pas totalement, puisqu'il y a des cours on analyse le problème de savoir si une voiture autonome doit écraser un enfant ou une femme enceinte. :D
Mais bon, ça montre bien qu'il y a des formations qui intègrent la morale dans les formations à l'IA. C'est inséparable, en fait.
Billets philophynanciers crédit-consuméristes : http://ppcc-fr.blogspot.fr/?view=mosaic

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#142 Message par WolfgangK » 13 août 2019, 01:05

saturne a écrit :
13 août 2019, 00:43
Parsifal a écrit :
11 août 2019, 07:54
Regarde du côté du self supervised learning.
Il y a des modèles non supervisés.
Modèle non supervisé.
https://fr.wikipedia.org/wiki/Apprentis ... rvis%C3%A9

Merci. Des sources que vous savez intéressantes ? (papers , si possible)

P.S. : Je savais bien qu'on n'appellerait pas la chose par son nom. Ça en dit long, d'ailleurs, sur le délire marketing autour de l'IA., d'appeler "non supervisé" un modèle qui cherche à reproduire l'intelligence. En même temps, c'est bien trouvé.
Ça n'a rien à voir avec du marketing d'AI. c'est juste que les classes sont définies en fonction d'une métrique dans l'espace de représentation pour minimiser les distances intra-classe et maximiser les distances interclasses (mettre les éléments le plus proches ensemble), plutôt que d'avoir a priori des exemples annotés pour lesquels ont connaît les classes.

saturne a écrit :
13 août 2019, 00:43
Donc, à la fin du premier temps, un modèle sans supervision est-il capable d'expliquer par quel procédé il est arrivé à sa classification ?
Je vais voir. Si vous m'orientez un peu, peut-être que je pourrai revenir plus vite avec de nouvelles confusions à me corriger :D
Vous confondez non-supervisé (distances plutôt qu'exemples classés) et "black-box" (par exemple réseaux de neurones) pour lesquels il n'est pas évident d'avoir une définition en intention (contra par extension) de la classification obtenue. Notez que même pour une algo de classement de type "black-box" on sait comment le modèle est arrivé à sa classification (e.g. en descendant un gradient), on sait pas bien où il est arrivé ☺.

PiR2 a écrit :Nous n'avons pas encore de définition précise de ce qu'est l'intelligence*
Je pense que si nous arrivions à cette définition précise , il suffirait de la convertir en algorithme pour créer une IA "vraie".
Ça n'a pas vraiment se sens. Les définitions sont juste des modèles. On observe des comportements, on induit des capacités qui les expliquent, on classifie certains comportement dans une classe "comportements intelligents" et on les explique par une capacité "intelligence". L'existence précède l'essence ;)
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
Pi-r2
Modérateur
Modérateur
Messages : 36010
Enregistré le : 08 juil. 2005, 19:31

Re: Recyclage en Intelligence Artificielle

#143 Message par Pi-r2 » 13 août 2019, 06:43

saturne a écrit :
13 août 2019, 00:43
Donc, à la fin du premier temps, un modèle sans supervision est-il capable d'expliquer par quel procédé il est arrivé à sa classification ?
Pourquoi demander à une machine plus que ce que l'on demande à un humain. Peux tu expliquer par quel mécanisme tu en vient à te poser des questions sur l'IA ?

saturne a écrit :
13 août 2019, 00:43
A Pir2: Prenez cette proposition : "Une machine n'est pas intelligente au sens où un humain (de naissance) est intelligent" -- on est tous d'accord ?
Non, je ne suis pas d'accord.
Une machine a autant le potentiel d'être intelligente que l'embryon humain. C'est juste que nous ne l'avons pas encore dotée du bon algorithme celui trouvé par la nature pour, en partant d'une cellule tout à faire ordinaire et peu distinguable d'une cellule d'un autre animal , en arriver à un être intelligent.
saturne a écrit :
13 août 2019, 00:43
Une machine ne peut simplement pas se choisir une fin (elle est déjà conçue en fonction d'une fin utile).
Affirmation gratuite.
saturne a écrit :
13 août 2019, 00:43
Le concept d'une fin implique celui de la liberté.
Oui
de là à affirmer que l'être humain est libre (ce sur quoi je suis d'accord), on en dans la philosophie pure.
Les bonnes idées triomphent toujours. D'ailleurs c'est à cela qu'on reconnait qu'elles étaient bonnes.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.

moinsdewatt
~~+
~~+
Messages : 14250
Enregistré le : 14 avr. 2013, 19:41

Re: Recyclage en Intelligence Artificielle

#144 Message par moinsdewatt » 13 août 2019, 07:29

Pi-r2 a écrit :
11 août 2019, 08:46
Nous n'avons pas encore de définition précise de ce qu'est l'intelligence*
Vu qu'il y a plusieurs '' intelligences'' on est pas rendu.

https://fr.m.wikipedia.org/wiki/Th%C3%A ... _multiples

Image


https://www.intelligences-multiples.org ... lligences/

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#145 Message par WolfgangK » 13 août 2019, 09:22

moinsdewatt a écrit :
13 août 2019, 07:29
Pi-r2 a écrit :
11 août 2019, 08:46
Nous n'avons pas encore de définition précise de ce qu'est l'intelligence*
Vu qu'il y a plusieurs '' intelligences'' on est pas rendu.

https://fr.m.wikipedia.org/wiki/Th%C3%A ... _multiples
Vous écrivez ça comme si c'était vrai.
Je ne crois pas que la psychométrie reconnaisse ces capacités, si elles existent vraiment, comme des formes d'intelligences.
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
Jeffrey
Modérateur
Modérateur
Messages : 13624
Enregistré le : 12 févr. 2012, 19:59

Re: Recyclage en Intelligence Artificielle

#146 Message par Jeffrey » 13 août 2019, 09:50

saturne a écrit :
13 août 2019, 00:43
Jeffrey a écrit : Votre problème est que vous ne faites pas la distinction entre l’acte sémantique et la codification de représentation.
Par exemple les romains n’associaient pas un symbole spécifique à un entier de 1 à 9 pour repérer un nombre et ensuite organiser une disposition de ces symboles successifs pour identifier une numération de l’ensemble des entiers. Ils ne disposaient pas du zéro
Mais les Romains savaient compter. Et on ne demande pas à l'IA de savoir compter (seulement de reproduire une technique, celui qui compte, c'est l'humain).
Vous avez une approche négative et émotionnelle. Vous n'examinez pas les concepts de manière objective, mais en partant à chaque fois d'une formulation négative de ce que fait la machine. "les romains savaient compter, pas l'ia".
Qu'est ce que savoir compter ? poser une opération, procéder à un certain nombre de manipulations qui conduisent à une transformation d'un groupe de nombres en un autre, par exemple associer les nombres 2 et 3 à 8, par l'opération 2^3=8... les machines savent le faire, et bien mieux que les romains de l'antiquité.
"celui qui compte c'est l'humain" est une affirmation, pas une définition ni une observation argumentée.
De toutes façons, si opérer un classement relève de l'acte sémantique,
C'est exactement le contraire de ce que je viens d'expliquer. J'ai écrit : "Votre problème est que vous ne faites pas la distinction entre l’acte sémantique et la codification de représentation."
C'est étonnant de comprendre l'explication à l'inverse. Vous orientez votre "compréhension" dans le sens vers lequel vous voulez aller.
saturne a écrit : vos explications sous-entendent que les concepts "dégagés sans supervision" en un premier temps, soient utilisables dans un second temps pour procéder à la classification de nouveaux matériaux (sur un nouveau stock d'images).

Donc, à la fin du premier temps, un modèle sans supervision est-il capable d'expliquer par quel procédé il est arrivé à sa classification ?
Si vous voyez par terre un cailloux et une pomme, vous aller ramasser la pomme et la croquer. Mais même si vous ramassez le cailloux, vous n'allez pas croquer dedans. Si je vous demande pourquoi, qu'allez vous me répondre ? Que le cailloux ne se mange pas ? Ce ne sera pas une réponse qui expliquera votre classification. Le "sens" que vous donnez à votre classification, c'est à dire ce que vous semblez entendre par "expliquer le procédé" n'est en rien une explication de la classification, il opère en aval et n'est en aucune manière la cause de la classification, c'est à dire son explication.
Maintenant, vous pourriez objectivement me répondre que le cailloux est dur, alors que la pomme est molle. Vous opérez une classification à partir d'une caractéristique sensible. Cela ne suffit pas à classifier définitivement ce qui est comestible de ce qui ne l'est pas, mais c'est un début.
Vous venez naturellement d'opérer un début de classification. Une machine est parfaitement capable d'en faire autant si vous la munissez d'un bras mécanique permettant de tester la dureté.

Ensuite, vous avez deux situations possibles :
-soit vous établissez une liste de caractéristiques classables qui détermineront un ensemble d'objets qui seront assez circonscrits pour être tous comestibles, et vous programmez la machine pour faire ces classifications, et c'est de l'apprentissage supervisé. Mais attention, vous ne programmez pas la valeur de la dureté limite pour ce qui est comestible par exemple, vous faites ajuster au programme un paramètre notifiant la dureté limite des objets comestibles à partir d'un échantillon d'exemples.

- soit vous programmez la machine pour qu'elle trouve par elle même quels sont les critères pertinents (dureté, couleur, forme...) pour déterminer ce qui est comestible de ce qui ne l'est pas. Et ça c'est de l'apprentissage non supervisé. Je ne vous dis pas comment on fait, puisque vous considérez que la machine n'est pas intelligente mais l'homme si, je vous propose de me donner des suggestions sur une liste de critères pertinents 8) .

Vous verrez bien alors que cela n'a rien d'évident. D'ailleurs j'attire votre attention sur le fait que ces critères ne sont pas du tout universels, puisque vous ou moi n'auront pas nécessairement le même jugement de ce qui est comestible ou ne l'est pas.
saturne a écrit : Bref, tout être humain est capable de différencier l'IA. de l'intelligence humaine, plus ou moins confusément, mais pas avec moins d'assurance ou de vérité logique.
Encore une affirmation totalement péremptoire (et de surcroît fausse, c'est un test bien connu dans le domaine de l'informatique :reconnaitre un interlocuteur humain d'une machine). Et c'est drôle, parce que là, vous parlez de 'confusément', alors que depuis le début, vous insistiez sur le fait que l'essence de l'activité intellectuelle réside dans la capacité à expliquer le processus . :?
saturne a écrit : Une machine ne peut simplement pas se choisir une fin (elle est déjà conçue en fonction d'une fin utile). Le concept d'une fin implique celui de la liberté. Ça n'empêche pas que le travail de "modélisation" de l'I.A., avec des fins établies par avance (qui ne sont pas libres) permet de mettre au point des techniques de calcul au service de l'intelligence humaine qui, elle, est assurément libre.
vous devriez relire Spinoza


__
Quis custodiet ipsos custodes?

Avatar du membre
WolfgangK
~~+
~~+
Messages : 16198
Enregistré le : 20 juin 2011, 00:02

Re: Recyclage en Intelligence Artificielle

#147 Message par WolfgangK » 13 août 2019, 17:28

Jeffrey a écrit :
13 août 2019, 09:50
saturne a écrit :
13 août 2019, 00:43
Jeffrey a écrit : Votre problème est que vous ne faites pas la distinction entre l’acte sémantique et la codification de représentation.
Par exemple les romains n’associaient pas un symbole spécifique à un entier de 1 à 9 pour repérer un nombre et ensuite organiser une disposition de ces symboles successifs pour identifier une numération de l’ensemble des entiers. Ils ne disposaient pas du zéro
Mais les Romains savaient compter. Et on ne demande pas à l'IA de savoir compter (seulement de reproduire une technique, celui qui compte, c'est l'humain).
Vous avez une approche négative et émotionnelle. Vous n'examinez pas les concepts de manière objective, mais en partant à chaque fois d'une formulation négative de ce que fait la machine. "les romains savaient compter, pas l'ia".
Qu'est ce que savoir compter ? poser une opération, procéder à un certain nombre de manipulations qui conduisent à une transformation d'un groupe de nombres en un autre, par exemple associer les nombres 2 et 3 à 8, par l'opération 2^3=8... les machines savent le faire, et bien mieux que les romains de l'antiquité.
"celui qui compte c'est l'humain" est une affirmation, pas une définition ni une observation argumentée.
"celui qui compte c'est l'humain"
Image
:mrgreen:
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.

Avatar du membre
saturne
+
+
Messages : 2950
Enregistré le : 24 déc. 2011, 22:36

Re: Recyclage en Intelligence Artificielle

#148 Message par saturne » 14 août 2019, 00:40

WolfgangK a écrit :
13 août 2019, 17:28
"celui qui compte c'est l'humain"
Image
:mrgreen:
Oui, la nature sait compter, donc les être humains aussi, mais seul l'humain-qui-a-l'intelligence construit la machine (un boulier ou un ordinateur ou un cours d'arithmétique) qui "sait-comment-compter" mais ne-sait-pourquoi-elle-compte : l'humain-qui-est-intelligent sait non seulement compter (comme tout être naturel), mais il sait aussi construire un outil ou un raisonnement pour le faire faire : pour "faire compter".

Après tout, c'est bien dans la pratique que se manifeste l'intelligence, n'est ce pas. Mais on parle alors de l'intelligence de l'humain qui fait faire, pas celle de la machine, qui fait !

Et j'ajoute, il en va de même à propos de l'intelligence prise comme fin : parce qu'il se sait "doué d'intelligence" (et peut donc en faire la "critique"), j'ai posé la question de savoir si on ne s'est pas mis en tête de construire une machine capable de "faire de l'intelligence", mais de la vraie, à la hauteur de l'humain, et pas seulement de la reconnaissance de formes ou gagner une partie d'échecs (qui sont en deçà de l'intelligence proprement dite dont l'humain se sait "être" déjà doué).

Ça n'a rien à voir avec du marketing d'AI. c'est juste que les classes sont définies en fonction d'une métrique dans l'espace de représentation pour minimiser les distances intra-classe et maximiser les distances interclasses (mettre les éléments le plus proches ensemble), plutôt que d'avoir a priori des exemples annotés pour lesquels ont connaît les classes.
Faut que j'aille voir où me conduit Wikipedia (faute d'autes références). Mais définir une métrique dans un espace pour déterminer des distances afin de spécifier ou au contraire grouper des éléments, ça suppose déjà des règles.

Ma question porte exactement sur les règles : dans le cas présent, les règles de spécification ou de regroupement qui sont déterminées.
Vous savez des "papers" où les auteurs expliquent ces règles, lesquelles marchent, lesquelles ne marchent pas quand on les applique, et s'interrogent pourquoi ?

Ça c'est intéressant !
Billets philophynanciers crédit-consuméristes : http://ppcc-fr.blogspot.fr/?view=mosaic

Avatar du membre
saturne
+
+
Messages : 2950
Enregistré le : 24 déc. 2011, 22:36

Re: Recyclage en Intelligence Artificielle

#149 Message par saturne » 14 août 2019, 01:12

Jeffrey a écrit :
13 août 2019, 09:50
saturne a écrit : Bref, tout être humain est capable de différencier l'IA. de l'intelligence humaine, plus ou moins confusément, mais pas avec moins d'assurance ou de vérité logique.
Encore une affirmation totalement péremptoire (et de surcroît fausse, c'est un test bien connu dans le domaine de l'informatique :reconnaitre un interlocuteur humain d'une machine). Et c'est drôle, parce que là, vous parlez de 'confusément', alors que depuis le début, vous insistiez sur le fait que l'essence de l'activité intellectuelle réside dans la capacité à expliquer le processus . :?
C'est pour cela que je parlais de "critique" et non de "définition" de l'intelligence. La connaissance consiste, à partir d'une perception quelconque, mais confuse, à dégager par voie logique et expérimentale les principes et les limites sur lesquels se savoir se fonde.

Dans le cas de la nature on procède par voie expérimentale, mais dans le cas de l'intelligence ? Il se trouve que nous _sommes_ la norme de l'intelligence possible. On ne procède alors pas par voie expérimentale mais par voie "critique": et c'est encore notre intelligence qui nous donne tous les outils critiques pour arriver à une quelconque connaissance certaine dans ce domaine. On n'a besoin de rien d'autre (que d'être intelligent) pour arriver à dégager les principes de l'intelligence.
Par voie de réflexion.

Ceci dit, je crois que dans ce fil, on parlait surtout de l'intelligence au sens de "perception intelligible", et c'est sans doute ce qui explique le nom donné de "Intelligence artificielle" appliqué essentiellement à la reconnaissance de formes.

Je suis intervenu là dessus pour savoir si l'IA n'avait pas envisagé de simuler ce qui relève de la "réflexion", tout simplement. La capacité à dégager ses propres règles, et donc de les communiquer. Je ne crois pas que ce soit une utopie d'envisager ça, même si pour un automate, ça se fera toujours dans un domaine orienté vers une fin prédéterminée (par l'homme, qui l'aura conçu en vu de "faire réfléchir", en vue d'en tirer un enseignement pratique)
Billets philophynanciers crédit-consuméristes : http://ppcc-fr.blogspot.fr/?view=mosaic

moinsdewatt
~~+
~~+
Messages : 14250
Enregistré le : 14 avr. 2013, 19:41

Re: Recyclage en Intelligence Artificielle

#150 Message par moinsdewatt » 14 août 2019, 01:13

WolfgangK a écrit :
13 août 2019, 09:22
moinsdewatt a écrit :
13 août 2019, 07:29
Pi-r2 a écrit :
11 août 2019, 08:46
Nous n'avons pas encore de définition précise de ce qu'est l'intelligence*
Vu qu'il y a plusieurs '' intelligences'' on est pas rendu.

https://fr.m.wikipedia.org/wiki/Th%C3%A ... _multiples
Vous écrivez ça comme si c'était vrai.
Je ne crois pas que la psychométrie reconnaisse ces capacités, si elles existent vraiment, comme des formes d'intelligences.
Et pourquoi ça ne serait pas vrai ?

Perso ça me semble évident que j'ai une certaine forme d'intelligence dans des domaines et beaucoup moins dans d'autres.

On m'a bassiné dans ma jeunesse avec le QI qui ne s'adresse en fait qu' à mesurer une certaine forme d'intelligence.l'intelligence d'un ingénieur est différente de celle d'un musicien.

Et ce que je vois en IA c'est que c'est très compartimenté dans les applications.

Répondre