Zenon Pylyshyn cast cognition's lot with computation, stretching the Church/Turing Thesis to its limit: We had no idea how the mind did anything, whereas we knew computation could do just about everything. Doing it with images would be like doing it with mirrors, and little men in mirrors. So why not do it all with symbols and rules instead? Everything worthy of the name "cognition," anyway; not what was too thick for cognition to penetrate. It might even solve the mind/body problem if the soul, like software, were independent of its physical incarnation. It looked like we had the architecture of cognition virtually licked. Even neural nets could be either simulated or subsumed. But then came Searle, with his sino-spoiler thought experiment, showing that cognition cannot be all computation (though not, as Searle thought, that it cannot be computation at all). So if cognition has to be hybrid sensorimotor/symbolic, it turns out we've all just been haggling over the price, instead of delivering the goods, as Turing had originally proposed 5 decades earlier.
Saturday 11 January 2014
1b. Harnad, S. (2009) Cohabitation: Computation at 70, Cognition at 20
Harnad, S. (2009) Cohabitation: Computation at 70, Cognition at 20, in Dedrick, D., Eds. Cognition, Computation, and Pylyshyn. MIT Press
Zenon Pylyshyn cast cognition's lot with computation, stretching the Church/Turing Thesis to its limit: We had no idea how the mind did anything, whereas we knew computation could do just about everything. Doing it with images would be like doing it with mirrors, and little men in mirrors. So why not do it all with symbols and rules instead? Everything worthy of the name "cognition," anyway; not what was too thick for cognition to penetrate. It might even solve the mind/body problem if the soul, like software, were independent of its physical incarnation. It looked like we had the architecture of cognition virtually licked. Even neural nets could be either simulated or subsumed. But then came Searle, with his sino-spoiler thought experiment, showing that cognition cannot be all computation (though not, as Searle thought, that it cannot be computation at all). So if cognition has to be hybrid sensorimotor/symbolic, it turns out we've all just been haggling over the price, instead of delivering the goods, as Turing had originally proposed 5 decades earlier.
Zenon Pylyshyn cast cognition's lot with computation, stretching the Church/Turing Thesis to its limit: We had no idea how the mind did anything, whereas we knew computation could do just about everything. Doing it with images would be like doing it with mirrors, and little men in mirrors. So why not do it all with symbols and rules instead? Everything worthy of the name "cognition," anyway; not what was too thick for cognition to penetrate. It might even solve the mind/body problem if the soul, like software, were independent of its physical incarnation. It looked like we had the architecture of cognition virtually licked. Even neural nets could be either simulated or subsumed. But then came Searle, with his sino-spoiler thought experiment, showing that cognition cannot be all computation (though not, as Searle thought, that it cannot be computation at all). So if cognition has to be hybrid sensorimotor/symbolic, it turns out we've all just been haggling over the price, instead of delivering the goods, as Turing had originally proposed 5 decades earlier.
Subscribe to:
Post Comments (Atom)
Ai-je raison de voir dans l'expérience de Searle une remise en question du TT comme barème de notre connaissance en sciences cognitives, parce qu'il serait possible de le réussir en ne sachant pas la signification des symboles qu'on manipule (donc sans une réelle cognition)?
ReplyDeleteOui, mais attend la semaine prochaine pour traiter Searle! Cette semaine c'est Turing.
DeleteJe suis incrédule du fait que l'argument de M. Harnad repose sur la véracité de cet exercice mental de Searle qui semble être, à mon avis, erroné.
DeleteTout ce que Searle a fait, j'ai l'impression, c'est simplifier le système et le réduire à un point ou nous sommes forcer de lui accorder qu'il n'y a pas de cognition. Or, les mêmes arguments pourraient être utilisé pour tenter de prouver que le cerveau ne cognise pas et pourtant nous saurions que c'est une erreur. On ne peut pas prendre une partie individuelle de notre cerveau pour tenter de prouver que l'humain ne cognise pas. C'est le cerveau dans son ensemble qui nous le permet. Il en va de même pour la pièce chinoise. Même si l'homme par lui même ne peut comprendre le chinois, le systeme , dans son ensemble "comprend" et est capable de converser aussi bien qu'un natif de Chine.
Comment est-ce qu'on peut affirmer que la pièce Chinoise ne cognise pas en la réduisant à ses parties individuelles?
En ce qui concerne Turing et la cognition, si je comprend bien vous dites qu'il serait impossible de créé un programme informatique qui cognise puisque la cognition est basé (en partie) sur les sens et que aucun algorithme ne pourrait reproduire ces sens? Une machine devra donc nous ressemblez sur le point physiologique (sensoriel) si nous voulons qu'elle "pense" comme nous est-ce exact?
DeletePour Searle, attendons la semaine prochaine!
DeletePour les sens: on peut les simuler par des computations (comme on peut simuler presque tout). Mais les symboles sont juste des symboles, tout comme les mots sont juste des mots. Les mots peuvent tout décrire, mais il ne peuvent pas prendre la place de ce qu'ils décrivent. Une description d'une pomme ne se mange pas. Et une simulation computationnel d'une pomme non plus. Idem pour la simulation d'un sens: Ça ne sent pas.
Mais dans les deux cas (simulation ou système physique) les sens doivent être attaché à des symboles pour traiter l'information, non?
ReplyDeleteJe ne comprends pas la question: on simule quoi? Le système physique est, et fait quoi? Et c'est qui qui attache du sens à quoi, pourquoi?
DeleteC'est bon en fait je comprenais pas complètement votre réponse mais vous avez bien clarifié ce point au dernier cours. J'ai encore des questions notamment en ce qui concerne Turing mais je vais garder ça pour la section 2.
DeleteSi on veut créer un modèle de la cognition, est-ce important de distinguer les composantes dynamiques des composantes computationnelles? Si on propose à notre robot le test de rotation mentale, qu'il applique une stratégie dynamique ou une stratégie computationnelle n'a pas tant d'importance s'il me donne une bonne réponse.
ReplyDeleteC'est important pour un computationnaliste qui soutient que la cognition n'est que de la computation...
DeleteJe me demandais s’il y a des réponses sur le fait que les systèmes de symbole langagier des individus peuvent être compris comme étant régi par des intensions. Ce que je veux dire, ces que les symboles étant utilisés par les individus possèdent une symbolique préétablie de manière consensuelle, pourtant, les individus utilisent ces symboles en leurs accolant des notions autres que leurs symboliques, de ce fait ils induisent une intention qui vient modifié la manière même de computer le symbole. Cette distinction dans l’action me semble à la base même de l’utilisation réelle des symboles dans la cognition. Disons que je ne sais pas trop en fait…
ReplyDeleteJ'ai des intentions. Ça ressemble à quelque chose d'avoir une intention. Ça ressemble à quelque chose de vouloir dire qqchose. Et de comprendre qqchose.
DeleteC'est cette capacité (antre autres) qu'on cherche à expliquer en sciences cognitives. Les computationnalistes pas la computation seule...
Mais on ne peut pas importer « l'intention » comme terme explicatif!
Concernant l'intentionnalité, je vois mal comment le computationnalisme peut y apporter une réponse satisfaisante. L'intentionnalité semble être une caractéristique de l'esprit (de la conscience) qui doit forcément s'accompagner d'une expérience subjective. Or, comment un système computationnel pourrait-il donc avoir des intentions sans expérience subjective? Cela m'apparaît improbable.
ReplyDeleteSandy, tu exprimes tes intuitions concernant ce que peut et ne peut pas faire/être un système purement computationnel (mais exécuté par un matériel). Reste juste un système purement matériel, donc dynamique: Mais pourquoi est-ce que l'un peut générer l'intentionnalité et l'autre pas?
DeleteD’abord, je suis tout à fait d’accord avec vous sur l’importance de la relation des composants computationnels et dynamiques de la fonction cognitive. Je pense que les tentatives à déchiffrer le mystérieux algorithme du fonctionnement de notre capacité mentale n’ont pas beaucoup de sens autant qu’elles n’acceptent pas à voir le phénomène de la cognition humaine d’une façon plus large en supposant l’existence des facteurs externes faisant partie du mécanisme mental au lieu de se limiter par la vision de la cognition comme un phénomène purement computationnel. Les modèles computationnels restent au niveau des hypothèses qu’on ne peut pas vraiment ni confirmer ni rejeter. Si l’on ne prend pas en compte les autres facteurs dits non computationnels, un algorithme recréé ne semble pas permettre à obtenir « un output » identique à celui qu’on peut observer chez les humains. Au moins, dans le cas de langage humain, un modèle computationnel ne semble pas être suffisant et pertinent… Autrement dit, une machine qui fonctionne sur la base du modèle computationnel ne réussit jamais le Test de Turing, si elle est purement computationnelle.
ReplyDeleteLevgeniia, je te ferais la même réponse qu'à Sandy ci-haut: Faut un argument logique ou des preuves, pas juste du scepticisme concernant la computation: Pourquoi est elle insuffisante? (Searle essaieras à faire l'argument la semaine prochaine -- mais il a encore beaucoup d'adversaires!)
DeleteIl est important de comprendre la similitude de la computation et la cogniton mais nous devons comprendre que la computation est une manipulation de symboles qui ne peut pas être démontrer physiquement .
ReplyDeleteNicolas Leveille
Je comprend bien l'essence du texte et les positions ont été largement discutées ci-dessus.
ReplyDeleteJe me demande une chose à la suite de la lecture. - Combien de temps prendrait une machine idéal de Turing pour comprendre d'elle même ce qu'est la cognition ? Si une seule machine après un certain temps pouvait expliquer la cognition comme nous serions capable de la faire (pour créer la machine), devrions-nous remettre en question notre position et compréhension de cette cognition ?
Nous ne comprenons pas ce qu'est ls cognition. Et notre introspection ne le révèle pas non plus. On attend pour que les sciences cognitives le découvrent et l'expliquent.
DeleteAlors pourquoi est-ce qu'un système qui avait réussi le TT comprendrait-il la cognition? Il n'est pas capable de plus ou moins que nous-autres...
J'avance seulement une idée, si nous parvenons à comprendre ce qu'est la cognition, est-ce qu'une machine ayant réussi le TT pourrait également y arriver ?
DeleteJe ne parle pas n'introspection non plus
DeleteEn quoi consiste la compréhension de la cognition, si elle n'est pas la rétroingénierie des capacités cognitives?
DeleteEffectivement, je comprend mieux ce point aujourd'hui !!
DeleteComme le souligne Hebb, le béhaviorisme pur n’a pas su répondre à la question «comment?» afin d’expliquer le comportement humain. Le béhaviorisme n’a malheureusement pas su exposer les sous-fondements de la capacité de l’être humain à produire des comportements ou des pensées. Le cognitivisme cherche à répondre à la question «comment?» puisqu’il s’agit du point de départ fondamental concernant la compréhension de l’être humain en tant qu’entité intelligente. Dans ce texte, vous nous invitez à réfléchir sur le rôle de la computation en tant que modèle représentatif de la cognition humaine en soutenant que le computationnalisme laisse beaucoup de questions sans réponses, tout comme l’introspection. Je suis d'accord sur ce point car la question du «comment?» reste inexpliquée et la comparaison entre le cerveau humain et un ordinateur demeure plutôt réductrice. Comme vous l'expliquez, le problème «mind/body» reste irrésolu, puisqu’il est possible de dissocier le software du hardware, mais ce n’est pas le cas de la conscience et du corps. Cette distinction m’amène à croire que la théorie du computationnalisme est une théorie simpliste et matérialiste, qui dénature à sa manière l’être humain. Je crois que le cerveau humain peut être un modèle pour toute forme d’intelligence artificielle, toutefois, je doute fort qu’un jour il puisse être remplacé totalement puisque la conscience est indissociable de l’esprit. Ce dernier fondement va à l’encontre des principes du computationnalisme (dans lequel le software peut fonctionner à travers de différents hardwares). Imaginer une conscience qui peut être dissociée du corps relève de la science fiction.
ReplyDeleteMais si la cognition n'était que de la computation (exécutée) alors l'esprit serait aussi indépendant du corps que le logiciel est indépendant du matériel.
DeleteLe texte me rejoint en tant que scientifique. On parle entre autre du fait que la computation et la cognition se ressemble. J'aime bien le partie sur le language où il est expliqué que notre capacité linguistique s'apprend par l'écoute et le principe de faute/récompense bien que je crois que cela ne concerne pas que la capacité linguistique. Il est vrai que notre façon de désigner les choses fonctionne par catégorie. Lorsqu'on nomme quelque chose, on emploi un terme voulant dire plusieurs choses comme par exemple une simple chaise. J'aime bien la portion du texte parlant de l'imagerie. Je crois que l'on procède bien plus souvent qu'autre chose par imagerie. Il est démontré que certaines zones du cerveau se spécialisent dans la mémoire phonologie et visuo-spatiale. Ce sont des zones du cerveau qui s'activent lorsque nous tentons de se rappeler d'un visage ou d'un son. Je suis bien d'accord que nous ne pouvons déterminer exactement ce qui se passe par introspection. Il est vrai que lorsque nous tentons de nous rappeller d'un visage, nous faisons en sorte appel à un certain algorithme afin de chercher une information précise comme un visage. Nous faisons la même chose lorsque nous faison un calcul en tête. Cela nous force parfois même à visualiser une certaine manipulation de symboles lors de calculs avancées. Toutefois, comme il est mentionné dans le texte, le cerveau fait appel à un système dynamique. Il est en constante évolution. Il est prouvé scientifique que certaines zones du cerveau se spécialisent. Par exemple, un chauffeur de taxi développera une zone bien spécifique du cerveau qui sert au sens de l'orientation. Peut-on dire que cela est uniquement computationnel? Non, car il faudrait ouvrir la boîte et tenter d'analyser ce qui se passe. Toutefois, peut-on comparer un système biologique en constante évolution à un ordinateur non-organique dont le logiciel et le matériel peut évoluer à tout instant? Nous pourrions arriver à programmer un logiciel afin de mémoriser de nouvelles notions, mais nous ne pouvons pas faire en sorte que le matériel se développe à chaque instant, ce qui empêche un computationnalisme complet. Peut-on dire que la cognition est totalement exclue de computationnalisme? Non, car tout le monde est d'accord que nous faisons appel à de la manipulation de symbole et à des algorithmes.
ReplyDeleteIl faut comprendre que ni l'un ni l'autre peut facilement se démontrer scientifiquement. Nous arrivons à peine à comprendre les signaux électriques du cerveau. Peut-on dire qu'un jour un ordinateur puisse nous comprendre à un tel point de nous surpasser? Je ne pense pas, car nous sommes régis par des processus biologiques dont nous ne comprenons même pas encore toujours exactement la fonction et il est difficile d'imaginer un logiciel ou un ordinateur posséder un tel atout.
François Roberge
Étudiant au BSc en météorologie
On peut créer des logiciels qui évoluent, qui s'auto-modifient, et qui sont modifier par les données éventuelles.
DeleteTexte intéressant.
ReplyDeleteQuant à savoir si l'on peut essentiellement savoir si, rendu à T5, l'on peut savoir si l'être en face de nous est un homme ou une machine, je soutiens que cela est impossible. La machine passerait le test, l'homme échouerait. Nous constatons le contenu des pensées chez l'autre uniquement que par les réactions qu'ils manifestent (pleure quand il est triste, souris lorsqu'il est content, etc.).
Wittgenstein croyait que de connaître ce qu'il y avait réellement lieu dans la conscience de l'autre était impossible. Par exemple, si, je vois du rouge quand je regarde le ciel, c'est égal, puisque l’on ma appris dès l'enfance que cette couleur dont est coloré le ciel s'appelle le bleu. Chaque fois que je vois du rouge, je dis naturellement et impunément que c'est bleu. Le langage est du dressage. Même si personne ne voit la même chose, tout le monde s'entend quand même.
Ainsi une machine suffisamment perfectionnée, si elle émet les bons effets correspondant à chaque cause; si elle présente les bonnes sorties selon les entrées qu'elle reçoit, elle ne manquera pas de tromper quiconque se présentera devant elle.
On ne demande pas si le candidat TT a exactement la même expérience que moi. On demande juste s'il expérimente quoi que ça soit. N'exige pas plus d'un TT que ce qu'on peut exiger des autres humains...
DeleteLes explications de Pylyshyn décrivant la cognition comme un type de computation sont fort intéressantes, mais il manque effectivement quelques aspects essentiels pour prouver que ce qu’il avance est vrai. Avec sa preuve par contre exemple, Searle démontre parfaitement un élément essentiel manquant à l’affirmation de Pylyshyn, c'est-à-dire la compréhension, un élément important dans la cognition humaine. De plus, affirmer que la cognition est uniquement de la computation est invalidé par la nécessité de la sensibilité (T3) pour réussir T2. En effet, la sensibilité nécessite des processus dynamiques et donc la cognition ne peut pas être entièrement computationnelle.
ReplyDeleteComment sais-tu que la sensibilité nécessite plus que la computation. (Je suis d'accord avec toi, mais c'est quoi ton argument pour?)
DeleteJe ne suis pas certain qu'un manque de compréhension désigne nécessairement une absence de cognition. On considère que le cerveau humain fait de la cognition, or celui-ci aussi peut effectuer des tâches sans les comprendre. Si je mémorise la méthodologie de résolution d'équations différentielles, je serai en mesure de résoudre de tels problème sans les comprendre. Mon cerveau aura-t-il fait de la computation sans cognition? Je ne dit pas que la cognition = la computation, car comme Searl, je trouve qu'il manque un élément à la computation pour qu'elle puisse désigner cognition (lequel? je ne saurais dire), mais je me base sur une intuition et non sur des faits. Peut-être est-ce étrangement cette intuition qu'il manquerait à la computation?
ReplyDeleteNous faisons des tâches à tous les jours sans les comprendre. Nous appliquons bien souvent des principes en sciences sans les comprendre complètement comme en autres la théorie du Big Bang. La computation et la cognition se sont pas la même chose comme tu dis, mais il y a certainement certains procédés de computation dans la cognition comme dans la résolution d'équations différentielles que tu parles. Nous appliquons un algorithme de résolution à celles-ci comme un ordinateur ferait avec un logiciel de calcul symbolique (là c'est de la computation pur et dure).
DeleteL'intuition pourrait être simuler par un logiciel, mais je ne crois pas qu'elle pourrait approcher l'intuition humaine à 100%, car il n'y a pas que le cognitif qui entre en jeu dans celle-ci, mais des processus physiologiques comme l'intuition qu'il faut partir d'un lien dangereux à cause de la production d'adrénaline.
Oui, on fait beaucoup de choses sans les comprendre. Mais quand il s'agit de parler une langue, normalement on fait ça en comprenant...
DeleteCe que je retire du texte et des discussions en classe, c'est surtout que la cognition ne peut pas être définie. Pas totalement du moins. L'introspection ou l'imagerie n'explique en rien comment nous savons ce que nous savons. Je crois que la computation n'est pas complètement fausse, mais qu'elle a ses limites dans le fonctionnement du cerveau. Une machine/ordinateur ne peut certainement pas avoir d'émotions et n'est-ce pas ce qui guide principalement les êtres humains, les sentiments et les émotions? Nous prenons des décisions en fonctions de nos expériences personnelles, notre instinct, notre humeur, etc. Je doute bien fort qu'un ordinateur agisse d'une manière autre que logique.
ReplyDeleteJe comprend le principe du hardware/software v.s. mind/body, mais je me questionne par rapport à la place que l'intelligence émotionnelle aurait dans tout ça.
On ne cherche pas à définir la cognition mais à rétroingénierier nos capacités cognitives.
DeleteEt as-tu une raison pour croire que la computation ne pourrait pas générer les émotions?
J’ai l’impression que la cognition englobe ce qui est computationnel à la fois ce qui ne l’est pas. La computation n’est que l’application de l’aspect logique/systématique du domaine vaste de notre cognition. Si la cognition est le mécanisme causal qui génère notre capacité de faire ce qu’on est capable de faire, je crois qu’elle est plus que cette chose qui explique ce qui intervient entre la commande, l’algorithme et la réponse.
ReplyDeleteCe qui intervient entre l'entrée et la sortie d'un cogniseur, cognisant, c'est la cognition. Et c'est ça ce qu'on cherche à expliquer causalement (par la computation, par exemple).
ReplyDeleteL’introspection ne suffit pas pour comprendre les processus cognitifs. Si je pense au fait que je suis en train de penser, à la limite je peux décrire approximativement ce que je ressens, les pensées qui me viennent à l’esprit, mais je suis loin d’être en mesure d’expliquer ce qui se passe réellement dans ma tête, comment mon cerveau fait pour générer ces pensées? Là où l’introspection est pertinente, c’est où elle permet aux chercheurs de réfléchir à des stratégies afin de de contrer le problème de l’Homunculus et de percer le mystère de la conscience, probablement par rétroingénierie.
ReplyDeleteSi j'ai bien comprit, l'introspection ou l'imagerie mentale ne peux expliquer le pourquoi de se que nous connaissons et nous rappelons. Ce n'est pas suffisant pour comprendre le côté cognitif du cerveau, ce n'est pas avec l'introspection et l'imagerie mentale que j'arrive à comprendre se qui se passe exactement dans mon cerveau, comment se fait il que je me rappel ou que je retienne certaine chose, c'est la le vrai mystère selon moi.
ReplyDelete