Pourtant, je suis un grand lecteur d'Asimov. Mais bon, dans l'industrie, on cherche justement le zéro hasard.Pi-r2 a écrit : pas une once de poésie dans le Bidibulle !
Stephen Hawking alerte sur une menace pour l’humanité
- Bidibulle
- ~~+
- Messages : 11934
- Enregistré le : 06 sept. 2007, 13:38
- Localisation : Dans les volcans qui riaient très fort
Re: Stephen Hawking alerte sur une menace pour l’humanité
Il y a assez de tout dans le monde pour satisfaire aux besoins de l'homme, mais pas assez pour assouvir son avidité. (Gandhi)
Re: Stephen Hawking alerte sur une menace pour l’humanité
Quelqu'un pourrait-il me conseiller un livre, ou quelques articles simples pour aborder le sujet, comprendre un peu mieux les enjeux, svp ?HenryPoutre a écrit :HTM, exemples d'application: video surveillance, bot pour jeux, traitement d'image (comme chercher des objets similaire dans des lots d'images),...WolfgangK a écrit :Puisqu'il y a des personnes intéressées ici, je sollicite un avis pour prioritiser le haut de ma pile des trucs à explorer sur ce sujet :
J'hésite entre mémoire hiérarchique et temporelle d'une part et programmation évolutionnaire d'autre part:
- https://fergalbyrne.github.io/ , cf. http://inbits.com/category/clortex-htm-in-clojure/
- https://github.com/lspector/Clojush
Est-ce que vous avez des idées de trucs sympas qu'on peut faire avec ces approches ?
« la plupart des gens (...) croient à la pérennité de la mémoire (...) et à la possibilité de réparer (...). La vérité se situe juste à l'opposé : tout sera oublié et rien ne sera réparé.» Kundera, La Plaisanterie.
Re: Stephen Hawking alerte sur une menace pour l’humanité
et c'est bien pour ça qu'on passe à côté de l'IA depuis si longtemps.Bidibulle a écrit :Pourtant, je suis un grand lecteur d'Asimov. Mais bon, dans l'industrie, on cherche justement le zéro hasard.Pi-r2 a écrit : pas une once de poésie dans le Bidibulle !
Les bonnes idées triomphent toujours. D'ailleurs c'est à cela qu'on reconnait qu'elles étaient bonnes.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
- fluctuat et mergitur
- -++
- Messages : 3770
- Enregistré le : 05 janv. 2012, 19:28
- Localisation : Paname
Re: Stephen Hawking alerte sur une menace pour l’humanité
- "LA pensée" ,ca n'existe pas.WolfgangK a écrit :Pour cela, il faudrait prouver que la pensée est réductible à un calcul.
On est loin de pouvoir l'affirmer.
- il n'y a pas besoin que quoique ce soit soit "réductible à", mais que ce soit "approximable par".[/quote]Amha, les notions de pensée, d'intelligence et de conscience se rapprochent plus de problèmes philosophiques traitant de choses quasiment hors de notre portée que de choses clairement identifiables et définissables.
En tout cas, le "progrès" n'a pas l'air de nous avoir beaucoup rapproché des "réponses" à ces questions.
Lorsqu'on simule les forces en jeu dans un pont pour tester sa résistance, ou celles autour d'un trou noir, etc.
Il n'existe pas pour autant un pont ni un trou noir au sein l'ordinateur, ni même quelque chose s'en approchant de très loin.
Donc en admettant qu'on puisse modéliser de la sorte nos processus cognitifs et découvrir des choses fantastiques sur nous même,
je ne pense pas que cela créé pour autant une conscience ni une forme d'intelligence, ni quoi que ce soit qui se rapproche d'une pensée humaine ou animale.
Il me paraît douteux qu'une chambre chinoise hyper sophistiquée se demande si elle est libre, ou si une autre chambre chinoise a la même perception de la couleur rouge, voire quel sens donner à son existence.
De mon point de vue, la menace réelle serait plutôt de confier trop de responsabilité à une super calculatrice dans un scénario à la WarGames.
Mais je pense que des machines à la HAL 9000, Terminator, Matrix, Nous les robots, ou Blade Runner ne sont pas pour demain.
Plus ça peut buller, plus ça peut craquer.
Re: Stephen Hawking alerte sur une menace pour l’humanité
Pour l'instant. ça ne dit rien sur ce qu'il est possible de faire à ce sujet.fluctuat et mergitur a écrit : les notions de pensée, d'intelligence et de conscience se rapprochent plus de problèmes philosophiques traitant de choses quasiment hors de notre portée que de choses clairement identifiables et définissables.
Si , quand même , on progresse. Par rapport aux philosophes du passés nous disposons de contre exemple puissants. Certaines machines que nous avons ils les auraient sans doute classifiée comme "intelligente" et "impossible à réaliser". Or nous savons nous d'une que ça existe, de deux que ce n'est pas pour autant intelligent. On a l'exemple du jeu d'échec, longtemps considéré comme une mesure de l'intelligence humaine (les gens intelligents jouent aux échecs et sont bons) et désormais on comprend que ce n'est pas de gagner qui fait preuve que l'on joue intelligemment aux échecs.fluctuat et mergitur a écrit : le "progrès" n'a pas l'air de nous avoir beaucoup rapproché des "réponses" à ces questions..
Tout à faitfluctuat et mergitur a écrit : Lorsqu'on simule les forces en jeu dans un pont pour tester sa résistance, ou celles autour d'un trou noir, etc.
Il n'existe pas pour autant un pont ni un trou noir au sein l'ordinateur, ni même quelque chose s'en approchant de très loin.
C'est un avis. Le problème est que ce qui se passe dans un être vivant évolué se retrouve exactement dans une situation similaire et ton raisonnement conduit à penser qu'il est impossible que de l'intelligence, une pensée ou une conscience se développe à partir d'un ovule humain fécondé. C'est en plus statistiquement vrai puisqu'en gros 3/4 de ceux ci n'évoluent pas en humain.fluctuat et mergitur a écrit :Donc en admettant qu'on puisse modéliser de la sorte nos processus cognitifs et découvrir des choses fantastiques sur nous même,
je ne pense pas que cela créé pour autant une conscience ni une forme d'intelligence, ni quoi que ce soit qui se rapproche d'une pensée humaine ou animale.
fluctuat et mergitur a écrit :Il me paraît douteux qu'une chambre chinoise hyper sophistiquée se demande si elle est libre, ou si une autre chambre chinoise a la même perception de la couleur rouge, voire quel sens donner à son existence.
Oui, la questions est bien à quel moment ça bascule vers la complexité. Y a t il un point où une émulation devient l'objet lui même ? c'est toute la question de la complexité.
Là aussi, on est bien d'accord !fluctuat et mergitur a écrit : De mon point de vue, la menace réelle serait plutôt de confier trop de responsabilité à une super calculatrice dans un scénario à la WarGames.
Les bonnes idées triomphent toujours. D'ailleurs c'est à cela qu'on reconnait qu'elles étaient bonnes.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
-
- ~~+
- Messages : 5345
- Enregistré le : 31 août 2005, 12:37
- Localisation : Haute Corse
- Contact :
Re: Stephen Hawking alerte sur une menace pour l’humanité
Quelqu'un connaît ?
Rencontre avec Antonio Damasio : La conscience est née des émotions
http://www.scienceshumaines.com/rencont ... 26801.html
Rencontre avec Antonio Damasio : La conscience est née des émotions
http://www.scienceshumaines.com/rencont ... 26801.html
Il a déjà montré que les émotions sont indispensables à la validité de nos raisonnements. Dans son dernier ouvrage, Antonio Damasio estime qu’elles pourraient être à l’origine de la conscience humaine et animale.
-
- ~~+
- Messages : 14274
- Enregistré le : 14 avr. 2013, 19:41
Re: Stephen Hawking alerte sur une menace pour l’humanité
un verre d' eau sur la téte c'est une bonne émotion.moinsdewatt a écrit :
Si un jour vous voyez un tel mécanisme, balancez lui un verre d' eau froide sur sa ''téte''.
Vous verrez tout de suite si il continue à imiter à la ''perfection'' un étre humain.
La conscience ne suffit pas. il faut aussi les sens reliés au cerveau.
et le ''Ice Bucket'' sur la téte alors la c'est une émotion dont on se souvient certainement une paire d'année.
Comment le «Ice Bucket Challenge» est devenu viral
- fluctuat et mergitur
- -++
- Messages : 3770
- Enregistré le : 05 janv. 2012, 19:28
- Localisation : Paname
Re: Stephen Hawking alerte sur une menace pour l’humanité
C'est sûr, je ne propose rien ... comme l'inspecteur des travaux finis.Pi-r2 a écrit :Pour l'instant. ça ne dit rien sur ce qu'il est possible de faire à ce sujet.fluctuat et mergitur a écrit :les notions de pensée, d'intelligence et de conscience se rapprochent plus de problèmes philosophiques traitant de choses quasiment hors de notre portée que de choses clairement identifiables et définissables.
Plutôt qu'impossible, je dirais actuellement hors de notre compréhension.Pi-r2 a écrit :C'est un avis. Le problème est que ce qui se passe dans un être vivant évolué se retrouve exactement dans une situation similaire et ton raisonnement conduit à penser qu'il est impossible que de l'intelligence, une pensée ou une conscience se développe à partir d'un ovule humain fécondé.fluctuat et mergitur a écrit :Donc en admettant qu'on puisse modéliser de la sorte nos processus cognitifs et découvrir des choses fantastiques sur nous même, je ne pense pas que cela créé pour autant une conscience ni une forme d'intelligence, ni quoi que ce soit qui se rapproche d'une pensée humaine ou animale.
Visiblement, cela se produit, mais on le constate sans savoir l'expliquer.
Peut être que nous le pourrons un jour, peut être jamais.
Plus ça peut buller, plus ça peut craquer.
-
- ~~+
- Messages : 14274
- Enregistré le : 14 avr. 2013, 19:41
Re: Stephen Hawking alerte sur une menace pour l’humanité
http://www.industrie-techno.com/elon-mu ... elle.39087Elon Musk investit 7 millions de dollars pour contrôler les risques de l’intelligence artificielle
07 Juillet 2015 industrie-techno.com
Cette somme allouée au Future of Life Institute permettra de financer 37 projets de recherche qui visent à identifier les dangers liés à l’intelligence artificielle.
Basé à Boston, le Future of Life Institute (FLI), a révélé la semaine dernière avoir sélectionné 37 équipes de chercheurs, sur 300 candidatures, qui bénéficieront d’un soutien financier pour développer une intelligence artificielle « robuste et bénéfique » pour ne pas qu'elle se retourne contre l'humanité.
Le montant de l’enveloppe globale s’élève à 7 millions de dollars. Elle a été alimentée par Elon Musk, le fondateur de Tesla Motors et de SpaceX. En effet, après avoir fait part à plusieurs reprises de ses inquiétudes en matière d’intelligence artificielle (AI), l’homme d’affaires avait fait un don, en janvier dernier, de 10 millions de dollars au FLI pour qu’il crée un fonds dédié à analyser les dangers liés à l’intelligence artificielle. Le site Business Insider, qui rapporte l’information, propose une sélection des projets les plus originaux.
Des chercheurs de l’université de Californie et de l’université d’Oxford entendent développer des algorithmes capables d’apprendre les préférences humaines. Objectif : aider les systèmes d’intelligence artificielle à se comporter davantage comme des hommes et moins comme des machines rationnelles.
Une équipe de l’université de Duke prévoit, quant à elle, de créer une intelligence artificielle capable de poser des jugements moraux et de prendre des décisions dans des scénarios réalistes avec une approche mixant informatique, philosophie et psychologie.
Le philosophe suédois Nick Bostrom, auteur de l’ouvrage Superintelligence, veut pour sa part bâtir un centre de recherche commun à l’université d’Oxford et de Cambridge pour développer des règles qui seraient appliquées par les gouvernements et les leaders de l’industrie afin de minimiser les risques de l’AI sur le long terme. Il pourrait bénéficier d'une aide d'1,5 million de dollars.
Un autre chercheur de l’université d’Oxford envisage de mettre au point un code de déontologie pour les intelligences artificielles.
A l’université de Denver, des chercheurs souhaitent développer des outils qui permettront aux humains de ne pas perdre le contrôle des armes robotiques.
A Stanford, un chercheur prévoit d’étudier les impacts d’une économie totalement automatisée.
Re: Stephen Hawking alerte sur une menace pour l’humanité
J'ai parlé hier aux représentants de future of life, l'article est imprécis. Ce qui est dénoncé n'est pas le scénario à la terminator qui semble très peu réaliste en l'état actuel des connaissances mais plutôt le fait que de plus en plus de systèmes prennent des décisions de manière automatique, parfois en étant capable de modifier leur comportement (i.e de modifier ou ajouter une nouvelle règle) de manière automatique (et pas forcément en supposant une intelligence).
L'on peut citer dans ce cas les systèmes servant de la pub en ligne ainsi que les bots de trading.
Ils font également une pétition contre les robots tueurs comme les tourelles automatiques qui "surveillent" le no man's land en Corée et ceux qui existent probablement chez les grandes muettes.
Au niveau de "l'investissement", ils ont donné des sous (autour de 200 000$ chaque) à pas plusieurs projets de recherche "éthiques". En fait surtout à des leaders d'opinion.
L'on peut citer dans ce cas les systèmes servant de la pub en ligne ainsi que les bots de trading.
Ils font également une pétition contre les robots tueurs comme les tourelles automatiques qui "surveillent" le no man's land en Corée et ceux qui existent probablement chez les grandes muettes.
Au niveau de "l'investissement", ils ont donné des sous (autour de 200 000$ chaque) à pas plusieurs projets de recherche "éthiques". En fait surtout à des leaders d'opinion.
Re: Stephen Hawking alerte sur une menace pour l’humanité
il est clair qu'une machine avec beaucoup d'autonomie mais pas très intelligente est bien plus dangereuse que ne le serait une machine intelligente !
Les bonnes idées triomphent toujours. D'ailleurs c'est à cela qu'on reconnait qu'elles étaient bonnes.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
Re: Stephen Hawking alerte sur une menace pour l’humanité
Ca dépend.Pi-r2 a écrit :il est clair qu'une machine avec beaucoup d'autonomie mais pas très intelligente est bien plus dangereuse que ne le serait une machine intelligente !
Certains des pires défauts des humains necessitent de l'intelligence.
"Je ne suis pas d’accord avec ce que vous dites, mais je me battrai jusqu’à la mort pour que vous ayez le droit de le dire".
Evelyn Beatrice Hall
Evelyn Beatrice Hall
-
- ~~+
- Messages : 14274
- Enregistré le : 14 avr. 2013, 19:41
Re: Stephen Hawking alerte sur une menace pour l’humanité
A propos de transhumanisme et d' IA il y a le fada Russe multimillionnaire Dmitry Itskov.
http://gf2045.com/itskov/
http://www.gentside.com/immortalit%E9/l ... 51978.htmlLe milliardaire russe Dmitry Itskov prévoit la vie éternelle pour 2045
En 2011, le milliardaire russe Dmitry Itskov un programme a lancé un programme destiné à trouver la formule de la "vie éternelle". Selon lui, l’objectif sera atteint en 2045.
Si Dmitry Itskov suit un régime strict -pas de viande, de poisson, de café, d'alcool ou encore d’eau froide- ce n’est pas pour se préserver d’éventuels problèmes de cholestérol ou d’hypertension, mais parce qu'il est persuadé que d’ici quelques décennies, nous serons tous immortels ! Le milliardaire russe de 32 ans s’est en effet fixé un objectif pour le moins original : permettre aux êtres humains de vivre éternellement d’ici 2045. Un projet fou qu’il compte notamment concrétiser via son ONG, Initiative 2045.
Un cerveau artificiel et un corps en hologramme
L’association, qui rassemble 23 éminents scientifiques, technologues et autres leaders d’opinion, est née en 2011. A l’époque, Dmitry, qui vient de faire fortune grâce à sa start-up Internet, âche son activité numérique pour piloter ce projet colossal. Deux ans plus tard, il semble que ses efforts aient été en partie récompensés. A l’occasion de la conférence Global Future 2045, qui se tenait les 15 et 16 juin à New York, le magnat a réaffirmé devant un parterre d’investisseurs que l’Homme pourrait prochainement se résumer à un cerveau artificiel accompagné d’une enveloppe corporelle holographique. Et si son entreprise évoque inévitablement des visions d’humanoïdes robotisés dignes des plus grands scénarios de science-fiction, Dmitry est lui plus préoccupé par l’immortalité psychique que physique. "L'immortalité est un effet secondaire" explique-t-il, en décrivant cette dernière comme "un moyen de transformer et d’améliorer la conscience humaine". D’autant que, doté d’un corps artificiel, l’être humain n’impacterait plus autant sur son environnement : "débarrassés de notre corps, nous n'aurons plus besoin d'abris, de logement. Nous n'aurons aussi plus besoin de consommer les ressources que nous consommons aujourd'hui. Les soins de santé seraient axés sur la réparation d’organes artificiels et pas sur un système biologique classique".
Yoga, méditation et exercices respiratoires En attendant la vie éternelle, le riche illuminé prépare sa conscience. En plus d’un régime alimentaire irréprochable, Dmitry Itskov fait du yoga, passe plusieurs heures par jour à méditer ou à faire des exercices respiratoires. En revanche, le calendrier prévu pour atteindre ses objectifs serait totalement irréaliste, selon un expert en neuroscience interrogé par CBS. Il faudra donc sans doute attendre un peu plus que 30 ans pour toucher le Graal de l'immortalité.
Publié par Maxime Lambert, le 24 juin 2013
http://gf2045.com/itskov/
Re: Stephen Hawking alerte sur une menace pour l’humanité
je vais encore passer pour un fada, mais j'ai pensé partiellement comme lui. En fait toute la question est de savoir ce que nous sommes. Plus précisément qui est "Je". Déjà une chose est sure, chaque jour nous changeons subtilement pour ne plus être exactement le même que la veille.
En outre, nous étendons progressivement notre conscience sur des annexes. Ce furent d'abord les livres, qui nous permettent de recevoir encore la pensée de gens morts depuis des millénaires, puis des supports électroniques (qui nous permettent d'alléger notre mémoire de plein de choses). On commence à "s'éparpiller" quelque peu. De là à pouvoir se "transférer" complètement sur un autre support... Le résultat risque effectivement d'être un avatar, un truc qui ressemble à "je" mais qui ne l'est pas. Un peu ce qu'on aurait en se clonant à l'instant t (pensées comprises). On aurait deux Je mais commenceraient instantanément à diverger subtilement pour finir par donner deux êtres jumeaux, sans doute très proches, mais avec des souvenirs et des constructions mentales différentes.
En outre, nous étendons progressivement notre conscience sur des annexes. Ce furent d'abord les livres, qui nous permettent de recevoir encore la pensée de gens morts depuis des millénaires, puis des supports électroniques (qui nous permettent d'alléger notre mémoire de plein de choses). On commence à "s'éparpiller" quelque peu. De là à pouvoir se "transférer" complètement sur un autre support... Le résultat risque effectivement d'être un avatar, un truc qui ressemble à "je" mais qui ne l'est pas. Un peu ce qu'on aurait en se clonant à l'instant t (pensées comprises). On aurait deux Je mais commenceraient instantanément à diverger subtilement pour finir par donner deux êtres jumeaux, sans doute très proches, mais avec des souvenirs et des constructions mentales différentes.
Les bonnes idées triomphent toujours. D'ailleurs c'est à cela qu'on reconnait qu'elles étaient bonnes.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
Re: Stephen Hawking alerte sur une menace pour l’humanité
Crack immo !débarrassés de notre corps, nous n'aurons plus besoin d'abris, de logement.
"Je ne suis pas d’accord avec ce que vous dites, mais je me battrai jusqu’à la mort pour que vous ayez le droit de le dire".
Evelyn Beatrice Hall
Evelyn Beatrice Hall
-
- ~~+
- Messages : 14274
- Enregistré le : 14 avr. 2013, 19:41
Re: Stephen Hawking alerte sur une menace pour l’humanité
Ma nouvelle adresse :immopaul a écrit :Crack immo !débarrassés de notre corps, nous n'aurons plus besoin d'abris, de logement.
carte 45698
lame 2358
armoire 187
datacenter 94
Cloud Parisien cedex3 .
A partir de 2050 il faudra ajouter à la fin : planéte Terre.
Re: Stephen Hawking alerte sur une menace pour l’humanité
En l'état des connaissances c'est du fantasme. Cela peut éventuellement arriver mais comme dit Kevin Murphy, c'est un peu comme se préoccuper de la surpopulation sur Mars. A la fin des années 80 l'IA en tant que domaine de recherche a été fortement freinée, justement parceque les projets qu'elle se proposait d'attaquer n'ont pas fonctionné. Maintenant cela "fonctionne" sur une base différente qui est celle du "statistical machine learning" qui peut être vu comme une sorte d'apprentissage par coeur.
- fluctuat et mergitur
- -++
- Messages : 3770
- Enregistré le : 05 janv. 2012, 19:28
- Localisation : Paname
Re: Stephen Hawking alerte sur une menace pour l’humanité
J'avais posé la question en page 11, mais je n'ai eu l'avis de personne.Pi-r2 a écrit :En fait toute la question est de savoir ce que nous sommes. Plus précisément qui est "Je".
Quand je dis automate, je pourrais dire "zombie philosophique"fluctuat et mergitur a écrit :c'est peut être l'occasion de vous demander ce que vous pensez être fondamentalement.
Cela fait longtemps que je n'ai pas posé cette question à quelqu'un.
Mes amis et ma famille y ont déjà presque tous répondu, et mes collègues ressemblent plus à des automates.
Plus ça peut buller, plus ça peut craquer.
Re: Stephen Hawking alerte sur une menace pour l’humanité
Il y a un inconvénient de taille avec sa solution: impossible de se suicider.
Re: Stephen Hawking alerte sur une menace pour l’humanité
La vie ETERNELLE, on vous dit, mon brave !slash33 a écrit :Il y a un inconvénient de taille avec sa solution: impossible de se suicider.
Une éternité à se "masturber" le cerveau..., ça ne vous fait pas rêver ?
Re: Stephen Hawking alerte sur une menace pour l’humanité
Vous me faites très très peur...
Re: Stephen Hawking alerte sur une menace pour l’humanité
Il suffit de s'auto-lancer un formatageslash33 a écrit :Il y a un inconvénient de taille avec sa solution: impossible de se suicider.
"Je ne suis pas d’accord avec ce que vous dites, mais je me battrai jusqu’à la mort pour que vous ayez le droit de le dire".
Evelyn Beatrice Hall
Evelyn Beatrice Hall
Re: Stephen Hawking alerte sur une menace pour l’humanité
: "Je" est une histoire que nous nous racontons en permanence. L'histoire d'un moi séparé. Le Bouddhisme, comme approche psychologique, a beaucoup à dire là-dessus...Pi-r2 a écrit :En fait toute la question est de savoir ce que nous sommes. Plus précisément qui est "Je".
Modifié en dernier par pangloss le 13 juil. 2015, 10:33, modifié 1 fois.
«C'est quand un moustique se pose sur vos testicules qu'on réalise que la violence ne résout rien."
Socrate
Socrate
Re: Stephen Hawking alerte sur une menace pour l’humanité
Sur Dmitry Itskov et autres transhumanistes il y a eu ce dossier de l'Obs du 2642 du 25 juin, bof.
http://tempsreel.nouvelobs.com/sciences ... ngers.html
Rien en gratuit.
Joël de Rosnay (gratuit):
Intelligence artificielle : le transhumanisme est narcissique. Visons l'hyperhumanisme
Publié le 26-04-2015
http://leplus.nouvelobs.com/contributio ... nisme.html
http://tempsreel.nouvelobs.com/sciences ... ngers.html
Rien en gratuit.
Joël de Rosnay (gratuit):
Intelligence artificielle : le transhumanisme est narcissique. Visons l'hyperhumanisme
Publié le 26-04-2015
http://leplus.nouvelobs.com/contributio ... nisme.html
-
- ~~+
- Messages : 14274
- Enregistré le : 14 avr. 2013, 19:41
Re: Stephen Hawking alerte sur une menace pour l’humanité
oui, c'est parce que j' ai lu la version papier dans l' Obs (suis abonné) que j' ai mis mon post sur Dmitri Itskov.Hourvari a écrit :Sur Dmitry Itskov et autres transhumanistes il y a eu ce dossier de l'Obs du 2642 du 25 juin, bof.
http://tempsreel.nouvelobs.com/sciences ... ngers.html
....
merci pour le lien.
Joël de Rosnay (gratuit):
Intelligence artificielle : le transhumanisme est narcissique. Visons l'hyperhumanisme
Publié le 26-04-2015
http://leplus.nouvelobs.com/contributio ... nisme.html
je lis (dixit J.De Rosnay)
Alors que beaucoup craignaient la banalisation de l’Homme, intégré à un plus grand que lui dans le cadre d’une étroite symbiose, ce serait au contraire l’hyperhumanité et l’hyper-humanisme qui prendraient le pas sur l’Homme asservi ou dominé. Il est possible que des sentiments comme la fraternité, l’altruisme, la volonté d’aide, d’empathie, de respect et de solidarité… se développent d’une manière que nous n’imaginons pas encore
Suis pas d' accord du tout.
Dans le sens inverse les terroristes de Daesh et les Islamistes se servent de ces nouvelles technologie pour leur projets de terreur. Quand on voit ce qu' il font avec Internet on peut bien imaginer ce qu' il vont faire de terrible avec des technologies encore plus puissantes.
Modifié en dernier par moinsdewatt le 13 juil. 2015, 11:27, modifié 1 fois.
Re: Stephen Hawking alerte sur une menace pour l’humanité
Mais la façon dont leurs folies sont ressenties?
Les 1400 exécutions de 2014 sont plus mal perçues que celles d'il y a 20 ans en ex-Yougo, on a appris que l'ouest a même fourni du matériel et laissé faire...et on est vers 9000 morts, là!
Les 1400 exécutions de 2014 sont plus mal perçues que celles d'il y a 20 ans en ex-Yougo, on a appris que l'ouest a même fourni du matériel et laissé faire...et on est vers 9000 morts, là!
-
- Messages : 1384
- Enregistré le : 08 juil. 2008, 08:58
- Contact :
Re: Stephen Hawking alerte sur une menace pour l’humanité
Mais qui maintiendra le data center ? et quid de ce qui fait le charme de la vie ?immopaul a écrit :Crack immo !débarrassés de notre corps, nous n'aurons plus besoin d'abris, de logement.
- fluctuat et mergitur
- -++
- Messages : 3770
- Enregistré le : 05 janv. 2012, 19:28
- Localisation : Paname
Re: Stephen Hawking alerte sur une menace pour l’humanité
Ok, pour le "je". Maintenant, que dit le Bouddhisme sur le "nous" ?pangloss a écrit :: "Je" est une histoire que nous nous racontons en permanence. L'histoire d'un moi séparé. Le Bouddhisme, comme approche psychologique, a beaucoup à dire là-dessus...Pi-r2 a écrit :En fait toute la question est de savoir ce que nous sommes. Plus précisément qui est "Je".
Plus ça peut buller, plus ça peut craquer.
Re: Stephen Hawking alerte sur une menace pour l’humanité
et nous, réussirions-nous le test de Turing ?...
«C'est quand un moustique se pose sur vos testicules qu'on réalise que la violence ne résout rien."
Socrate
Socrate
Re: Stephen Hawking alerte sur une menace pour l’humanité
Read more at http://www.lexpress.fr/actualite/scienc ... T3s4Vi8.99Stephen Hawking met le paquet pour trouver des extraterrestres
REUTERS/Mariana Bazo
L'astrophysicien britannique a présenté lundi à Londres les contours d'un plan à 100 millions de dollars, visant à observer l'espace en quête d'une intelligence extraterrestre. Un proramme présenté comme le plus ambitieux jamais réalisé.
A ce stade, il n'est toutefois pas encore prévu d'envoyer de message dans l'espace, un sujet qui fait débat chez les scientifiques. "Une civilisation lisant un de nos messages pourrait avoir des milliards d'années d'avance sur nous", a dit Stephen Hawking, 73 ans. "Ils seraient largement plus puissants et pourraient ne pas nous accorder plus d'importance qu'une bactérie n'en a pour nous".
ces recherches pourraient paraitre loufoque, comme souvent presenté dans les medias, sauf que là, c'est sans doute l'un des plus grand (si ce n'est le plus grand) physicien/theoricien du monde qui mene le projet..L'astrophysicien avait déjà souligné précédemment le fait que l'histoire humaine fournit de nombreux exemples de rencontres tragiques pour des civilisations moins avancées, comme les Incas avec les Espagnols. "Nous voulons connaître l'histoire (des extraterrestres), leurs modèles sociaux, comment ils conçoivent l'origine de l'univers", a rétorqué Ann Druyan,
"On peut discuter de tout, sauf des chiffres…"
Le gouvernement francais
"Les chiffres sont comme les gens. Si on les torture assez, on peut leur faire dire n'importe quoi."
Didier Hallépée - Mathématicien
Le gouvernement francais
"Les chiffres sont comme les gens. Si on les torture assez, on peut leur faire dire n'importe quoi."
Didier Hallépée - Mathématicien
-
- ~~+
- Messages : 14274
- Enregistré le : 14 avr. 2013, 19:41
Re: Stephen Hawking alerte sur une menace pour l’humanité
http://www.lemonde.fr/pixels/article/20 ... picks=trueComment le « deep learning » révolutionne l'intelligence artificielle
Cette technologie d'apprentissage, basée sur des réseaux de neurones artificiels, a complètement bouleversé le domaine de l'intelligence artificielle en moins de cinq ans.
Le Monde.fr | 24.07.2015
................
Re: Stephen Hawking alerte sur une menace pour l’humanité
«C'est quand un moustique se pose sur vos testicules qu'on réalise que la violence ne résout rien."
Socrate
Socrate
Re: Stephen Hawking alerte sur une menace pour l’humanité
Celui d'avril l'est beaucoup plus (terrifiant). Après avoir fait un sondage dans un cercle d'experts, l'intervenant indique que l’avènement de la super IA pourrait survenir entre 2040 et 2050 d'après le consensus. Par super IA on entend bien l'IA qui supervisera tout mais avec une courbe d'apprentissage qui prendra du temps (peu probable qu'on soit encore vivant pour assister à la période où elle aura dépassé l'intelligence de l'humain le plus intelligent, bref...). Le point important de cette vidéo est bien de comprendre qu'on ne parle plus de la possibilité de son existence mais d'alerter dès maintenant sur le besoin d'implémenter des garde fous totalement fiables pour éviter un "effet de bord" néfaste pour nos valeurs (voir notre intégrité morale et physique)
Re: Stephen Hawking alerte sur une menace pour l’humanité
Bravo... des vidéos mais par deux truffes qui n'ont jamais eu aucune contribution dans le domaine. Celle de Jeremy n'est pas trop déconnante -disons qu'il essaye de récupérer un truc dans lequel il n'est pas impliqué, il n'a même pas l'élégance de citer les sources ou il a volé ses images- mais l'autre est juste un digne descendant des chamans préhistoriques jouant sur les peurs.
L'IA a déjà connu 2 ou 3 "hivers". Comprendre hautes attententes non satisfaites. Ce domaine est un sujet à fantasmes, ce qui est fait aujourd'hui est bien loin d'être "intelligent" au sens humain, mais c'est utile.
L'IA a déjà connu 2 ou 3 "hivers". Comprendre hautes attententes non satisfaites. Ce domaine est un sujet à fantasmes, ce qui est fait aujourd'hui est bien loin d'être "intelligent" au sens humain, mais c'est utile.
- fluctuat et mergitur
- -++
- Messages : 3770
- Enregistré le : 05 janv. 2012, 19:28
- Localisation : Paname
Re: Stephen Hawking alerte sur une menace pour l’humanité
Terminator n'est peut être pas prêt d'arriver. Par contre, une IA capable de fabriquer un virus qui précipite des Google cars dans les platanes ne me paraît pas trop délirant.
Plus ça peut buller, plus ça peut craquer.
Re: Stephen Hawking alerte sur une menace pour l’humanité
Ce ne serait pas une IA, mais un logiciel malveillant. Un virus informatique peut dans certain cas endommager un ordinateur et au moins compromettre les données s'y trouvant. Si l'ordinateur est en charge de la conduite d'une voiture évidemment il peut se passer des trucs pires. Bref il faudra être moins laxiste que d'habitude dans la conception de la sécurité du soft. Mais on sait faire (pour beaucoup plus cher, par exemple avec du code certifié et non juste testé http://www.labri.fr/perso/casteran/CoqArt/coqartF.pdf ).
Ce type de problèmes et la question des responsabilités sont actuellement les gros freins au déploiement de véhicules à conduite automatique.
Ce type de problèmes et la question des responsabilités sont actuellement les gros freins au déploiement de véhicules à conduite automatique.
- fluctuat et mergitur
- -++
- Messages : 3770
- Enregistré le : 05 janv. 2012, 19:28
- Localisation : Paname
Re: Stephen Hawking alerte sur une menace pour l’humanité
Ce n'est pas l'esprit de ce que j'ai écrit, relis moi et essaie de comprendre ce que j'ai voulu écrire, plutôt que ce que tu voulais y trouver.Parsifal a écrit :Ce ne serait pas une IA, mais un logiciel malveillant.
Je veux parler d'une IA qui, évoluant dans son milieu, pourrait concevoir des petits programmes comme des vers ou des virus en annexe de son développement. Tout comme la multitude d'agents pathogènes qui nous attaquent, il n'y a aucune intention de nuire à l'homme directement, pourtant cela peut avoir des conséquences néfastes.
Quoi qu'il en soit, des scénarios comme Ghost In The Shell et Stand Alone Complex me paraissent plus probables que les hypothèses apocalyptiques.
Plus ça peut buller, plus ça peut craquer.
Re: Stephen Hawking alerte sur une menace pour l’humanité
La fondation sponsorisée par Elon Musk - Future of Life va dans un sens un peu plus terre à terre : il peut y avoir un problème quand les décisions sont prises par des machines et encore davantage si on laisse le système de décision se mettre à jour à partir d'une analyse statistique des données. Ex de bidule qui peut mal se passer : les automates de trading qui cherchent des régularités statistiques dans les données
Par contre dans Ghost In The Shell le marionnettiste est une IA avec une conscience, et la dessus je ne suis pas d'accord, il n'y a en machine learning pas vraiment notion "d'intention" des systèmes, celle-ci est apportée par la définition d'une fonction objectif. En l'état c'est du fantasme du type "Attention à la surpopulation lors de la colonisation de Mars".
Amha, les premiers trucs qui vont ressembler seront des systèmes capables de parcourir de grands volumes de données de manière non supervisée (des crawlers comme ceux de Google) dans le but de construire des représentations automatiques du monde et qui face à un objectif de haut niveau type "engranger des clics, gagner de l'argent" reproduiront des stratégies plus ou moins observées chez des humains à partir des méthodes issues de l'apprentissage de par renforcement et imitation. Bref cela sera une sorte d'inconscient collectif, un peu comme les classements des sites web dans les moteurs de recherches qui ne sont pas que le reflet d'un algo.
Par contre dans Ghost In The Shell le marionnettiste est une IA avec une conscience, et la dessus je ne suis pas d'accord, il n'y a en machine learning pas vraiment notion "d'intention" des systèmes, celle-ci est apportée par la définition d'une fonction objectif. En l'état c'est du fantasme du type "Attention à la surpopulation lors de la colonisation de Mars".
Amha, les premiers trucs qui vont ressembler seront des systèmes capables de parcourir de grands volumes de données de manière non supervisée (des crawlers comme ceux de Google) dans le but de construire des représentations automatiques du monde et qui face à un objectif de haut niveau type "engranger des clics, gagner de l'argent" reproduiront des stratégies plus ou moins observées chez des humains à partir des méthodes issues de l'apprentissage de par renforcement et imitation. Bref cela sera une sorte d'inconscient collectif, un peu comme les classements des sites web dans les moteurs de recherches qui ne sont pas que le reflet d'un algo.
- fluctuat et mergitur
- -++
- Messages : 3770
- Enregistré le : 05 janv. 2012, 19:28
- Localisation : Paname
Re: Stephen Hawking alerte sur une menace pour l’humanité
Là, je suis d'accord.
La comparaison a effectivement ses limites.
La comparaison a effectivement ses limites.
Plus ça peut buller, plus ça peut craquer.
Re: Stephen Hawking alerte sur une menace pour l’humanité
SAlut, je reviens là dessus :
Merci d'avance.
J'aimerais bien avoir des points d'entrée sur ce sujet. Ca m'intéresse énormément.oléobulle a écrit :Attention, le hasard de la mécanique quantique et celui de la théorie du chaos ne remettent ni l'un ni l'autre la causalité. Les événements peuvent être imprévisibles, on peut être -en pratique- incapable de déterminer l’événement exact qui les a produit, mais ils ne se sont pas produits "sans cause". Si j'envoie un électron se diffracter sur 2 fentes d'Young, le point d'impact a beau avoir un caractère aléatoire, la conséquence (le point d'impact sur le capteur) est bien le produit d'une cause (le lancer de l'electron). "Aléatoire" ne signifie pas "non causal". Si je gagne au loto, ce n'est pas une manifestation de la volonté divine, c'est surtout parce que j'ai acheté un billet.Jeffrey a écrit :- Spinoza est vraiment mon philosophe préféré. Mais il ignorait que le principe de causalité ne régit pas l'univers.
De façon intéressante, certains chercheurs travaillant à unifier la physique quantique et la relativité générale dans le cadre de la gravité quantique à boucles ont tenté de modéliser la façon dont l'espace-temps émergeait de leur modèle (les boucles quantiques) sans y parvenir. Ils ont ensuite rajouté une hypothèse supplémentaire: la causalité. Et, là, ils ont trouvé un espace-temps qui ressemblait au notre (soit un espace à 3 dimensions si mes souvenirs sont bons. Je parle de mes souvenirs sur l'étude bien sûr).
La physique quantique met à rude épreuve ce qu'on appelle la localité, deux particules séparées peuvent continuer à interagir en n'en formant qu'une, mais pas la causalité.
Les physiciens qui tentent de construire l'univers avec le minimum d'hypothèse (gravité quantique à boucles, théorie des cordes, principe holographique...) ne parviennent à des résultats cohérents (quand il y arrivent ) que lorsqu’ils rajoutent la causalité comme postulat à leurs hypothèse de base. Comme toujours, on peut passer outre et voir ce qu'on obtient comme résultat quand on tente de s'en passer, mais on n'a, à ma connaissance, jamais obtenu quelque chose qui ressemble à l'univers que nous connaissons.
L'univers demeure causal, ou en tout cas on ne voit pas comment se passer de la causalité dans le cadre des lois de la physique. Si on tente de l'enlever, les lois que l'on trouve ne correspondent pas à celles que l'on constate.
Merci d'avance.
Quis custodiet ipsos custodes?
Re: Stephen Hawking alerte sur une menace pour l’humanité
Sur la causalité en ML (je suis incompétent en physique), il y a des travaux de Leon Bottou et Isabelle Guyon, par exemple
http://leon.bottou.org/news/explore_exp ... _causation
Le pdf : http://jmlr.org/papers/volume14/bottou13a/bottou13a.pdf
qui défendent l'intervention sur un système comme moyen d'éviter de se faire piéger par les corrélations. Bon dans ce papier c'est appliqué à de la pub en ligne et ca marche plutôt pas mal :/
http://leon.bottou.org/news/explore_exp ... _causation
Le pdf : http://jmlr.org/papers/volume14/bottou13a/bottou13a.pdf
qui défendent l'intervention sur un système comme moyen d'éviter de se faire piéger par les corrélations. Bon dans ce papier c'est appliqué à de la pub en ligne et ca marche plutôt pas mal :/
Re: Stephen Hawking alerte sur une menace pour l’humanité
Parsifal a écrit : qui défendent l'intervention sur un système comme moyen d'éviter de se faire piéger par les corrélations. Bon dans ce papier c'est appliqué à de la pub en ligne et ca marche plutôt pas mal :/
A.Einstein a écrit :Ce qui caractérise notre époque, c'est la perfection des moyens et la confusion des fins.
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.
Re: Stephen Hawking alerte sur une menace pour l’humanité
https://www.reddit.com/r/MachineLearnin ... utational/
The Brain vs Deep Learning Part I: Computational Complexity — Or Why the Singularity Is Nowhere Near ~"A biological neuron is essentially a small convolutional neural network." sur Reddit.
The Brain vs Deep Learning Part I: Computational Complexity — Or Why the Singularity Is Nowhere Near ~"A biological neuron is essentially a small convolutional neural network." sur Reddit.
L'islamophobie n'est pas plus du racisme que l'antisionisme n'est de l'antisémitisme.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.
Que les racistes soient islamophobes n'implique pas que les islamophobes soient racistes.
Re: Stephen Hawking alerte sur une menace pour l’humanité
Il n'y a pas qu'une question de nombre de neurones... en plus c'est bien gentil mais entrainer un réseau à spikes c'est loin d'être évident (déjà les récurrents...). Alors non organisé en couches et à spikes comme le cerveau, même avec le hardware suffisant ce n'est pas gagné. Par exemple on connait très bien le cerveau des abeilles qui est environ 20000 fois plus petit que l'humain et pourtant nous sommes incapables de reproduire son fonctionnement.
Notre cerveau est le fruit de l'évolution, sa complexité est peut-être démentielle par rapport à ce qui est nécessaire ou pas. En tant qu'agnostique (et non anti-religieux), on ne peut même pas exclure la possibilité d'un truc "extérieur". La non localité par exemple est relativement troublante.
Notre cerveau est le fruit de l'évolution, sa complexité est peut-être démentielle par rapport à ce qui est nécessaire ou pas. En tant qu'agnostique (et non anti-religieux), on ne peut même pas exclure la possibilité d'un truc "extérieur". La non localité par exemple est relativement troublante.
Re: Stephen Hawking alerte sur une menace pour l’humanité
se poser la question au niveau du neurone c'est déjà se tromper.
Le programme qu'il faut reproduire est celui qui génère le cerveau, c'est à ce niveau là qu'il faut bosser.
Le neurone est construit à partir des mêmes cellules que tout le reste, par des instructions précodées au niveau de l'ADN cellulaire.
Il n'est pas plus complexe que ça. Pas la peine d'invoquer je ne sais quelle divinité ou la non localité.
C'est du simple qui devient complexe par auto réplication.
Le programme qu'il faut reproduire est celui qui génère le cerveau, c'est à ce niveau là qu'il faut bosser.
Le neurone est construit à partir des mêmes cellules que tout le reste, par des instructions précodées au niveau de l'ADN cellulaire.
Il n'est pas plus complexe que ça. Pas la peine d'invoquer je ne sais quelle divinité ou la non localité.
C'est du simple qui devient complexe par auto réplication.
Les bonnes idées triomphent toujours. D'ailleurs c'est à cela qu'on reconnait qu'elles étaient bonnes.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
Re: Stephen Hawking alerte sur une menace pour l’humanité
Pas garanti non plus car dans ce cas il faut aussi être capable de reproduire des entrées réalistes (ie faire une simulation relativement complète du monde). Par exemple le cerveau des bébés tend à être "trop" connecté, et ne devient performant qu'en se confrontant au monde. Au plus l'on obtiendrait par ce moyen une bonne structure pour ensuite s'ajuster au monde - ce qui serait déjà un grand pas.
C'est un peu comme avoir un programme compressé par un algo qui aurait le droit d'utiliser une énorme table de codage "extérieure", on ne peut pas conclure sur la complexité du programme codé au vu de la seule longueur du programme compressé.
C'est un peu comme avoir un programme compressé par un algo qui aurait le droit d'utiliser une énorme table de codage "extérieure", on ne peut pas conclure sur la complexité du programme codé au vu de la seule longueur du programme compressé.
Re: Stephen Hawking alerte sur une menace pour l’humanité
Oui c'est exactement ça, tu es sur la bonne voie. C'est le moyen de faire une vraie IA: concevoir un truc qui peut "tout" faire et sélectionner par confrontation avec l'environnement ce qui est utile. C'est exactement la stratégie prise par la nature pour le cerveau du bébé.Parsifal a écrit :Pas garanti non plus car dans ce cas il faut aussi être capable de reproduire des entrées réalistes (ie faire une simulation relativement complète du monde). Par exemple le cerveau des bébés tend à être "trop" connecté, et ne devient performant qu'en se confrontant au monde. Au plus l'on obtiendrait par ce moyen une bonne structure pour ensuite s'ajuster au monde - ce qui serait déjà un grand pas.
C'est un peu comme avoir un programme compressé par un algo qui aurait le droit d'utiliser une énorme table de codage "extérieure", on ne peut pas conclure sur la complexité du programme codé au vu de la seule longueur du programme compressé.
La table de codage extérieure, c'est le monde. L'aléatoire nécessaire vient de l'extérieur. Tout a n'est pas l'algorithme que l'on cherche.
Les bonnes idées triomphent toujours. D'ailleurs c'est à cela qu'on reconnait qu'elles étaient bonnes.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
mon statut de modérateur ne m'interdit pas de participer aux discussions. Je ne modère pas les discussions auxquelles je participe.
- Capitaine Flam
- ~~+
- Messages : 5885
- Enregistré le : 20 nov. 2005, 21:09
Re: Stephen Hawking alerte sur une menace pour l’humanité
Même pas.Pi-r2 a écrit :Le programme qu'il faut reproduire est celui qui génère le cerveau, c'est à ce niveau là qu'il faut bosser.
Ou tu veux tenter de reproduire une intelligence organique sans substrat organique (intelligence désincarnée) ? Comme ça ?
En fait, une intelligence non organique est-elle seulement pensable pour une intelligence organique ?
Et inversement.
-
- ~~+
- Messages : 14274
- Enregistré le : 14 avr. 2013, 19:41
Re: Stephen Hawking alerte sur une menace pour l’humanité
la suite : http://www.lemonde.fr/pixels/article/20 ... 08996.htmlStephen Hawking et Elon Musk réclament l’interdiction des « robots tueurs »
Le Monde.fr | 27.07.2015 à
C’est une nouvelle charge portée contre les dangers potentiels de l’intelligence artificielle (IA). Dans une lettre ouverte publiée lundi 27 juillet, plus d’un millier de personnalités, dont une majorité de chercheurs en IA et en robotique, ont réclamé l’interdiction des armes autonomes, capables « de sélectionner et de combattre des cibles sans intervention humaine ».
Parmi les signataires, on retrouve Elon Musk, le célèbre PDG du constructeur de voitures électriques Tesla et de SpaceX, et l’astrophysicien britannique Stephen Hawking, qui avaient déjà fait part publiquement de leurs inquiétudes concernant l’IA. Mais aussi le cofondateur d’Apple Steve Wozniak, le linguiste américain Noam Chomsky ou encore Demis Hassabis, le fondateur de DeepMind, une entreprise consacrée à l’intelligence artificielle rachetée par Google.
....................
Re: Stephen Hawking alerte sur une menace pour l’humanité
Je me demande si Stephen Hawking n'a pas viré troll, à force de donner son avis sur tout...