Πολύς λόγος γίνεται τελευταία για αλγόριθμους και Τεχνητή Νοημοσύνη. Ο φιλόσοφος John Searle προτείνει το νοητικό πείραμα του Κινέζικου Δωματίου για να δείξει ότι η νόηση και οι γνωστικές λειτουργίες δεν εξισώνονται με υπολογιστική/ συντακτική διαδικασία η οποία εκτελεί ένα σύνολο από κανόνες/ πρόγραμμα, είτε αυτή λαμβάνει χώρα σε μια μηχανή είτε στον ανθρώπινο εγκέφαλο. Σκοπός αυτού του νοητικού πειράματος είναι να δώσει απάντηση στους υποστηρικτές της άποψης ότι, όταν μια συντακτική μηχανή είναι εφοδιασμένη με κατάλληλους κανόνες και αλγορίθμους διαθέτει νόηση και κατανοεί.

Το νοητικό πείραμα έχει ως εξής: Υποθέτουμε ότι σε ένα δωμάτιο υπάρχει ένα άτομο, το οποίο δεν γνωρίζει κινέζικα, αλλά γνωρίζει τη φυσική του γλώσσα, ας πούμε ελληνικά. Στο δωμάτιο υπάρχουν δύο θυρίδες -ας τις ονομάσουμε Ι (Input) και Ο (Output) αντίστοιχα. Από τη θυρίδα Ι εισέρχονται χαρτιά με κινέζικα σύμβολα. Στο δωμάτιο υπάρχει ένα βιβλίο γραμμένο στα ελληνικά στο οποίο βρίσκονται καταγραμμένοι όλοι οι απαραίτητοι κανόνες της μορφής: « Όταν λαμβάνεις ένα χαρτί από τη θυρίδα Ι με το Χ  κινέζικο σύμβολο, ακολούθησε τις αντίστοιχες διαδικασίες, γράψε σε ένα κομμάτι χαρτί το Ψ κινέζικο σύμβολο και πέρασέ το στη θυρίδα Ο». Οι κανόνες αυτοί επιτρέπουν τη συσχέτιση ενός συνόλου τυπικών συμβόλων με ένα άλλο σύνολο τυπικών συμβόλων, όπου «τυπικός» σημαίνει ότι μπορούμε να αναγνωρίσουμε τα σύμβολα μόνο από τη μορφή τους. Επίσης, το βιβλίο περιλαμβάνει οδηγίες για το πώς το άτομο μέσα στο δωμάτιο θα σχεδιάζει ορισμένα κινέζικα σύμβολα ως απάντηση στους ορισμένους τύπους χαρακτήρων που του δίνονται. Χωρίς να το γνωρίζει, τα πρόσωπα που του προμηθεύουν τα σύμβολα ονομάζουν με διάφορους τεχνικούς όρους, όπως «γραφή», «λεξιλόγιο», «σύνταξη», «ερωτήσεις» τα χαρτιά που του δίνουν. Επιπλέον, ονομάζουν «απαντήσεις» τα σύμβολα που το άτομο τους επιστρέφει διαμέσου της θυρίδας Ο και «πρόγραμμα» το σύνολο των κανόνων και οδηγιών στα ελληνικά που του έδωσαν. Με αυτό τον τρόπο, κάθε φορά που μια ακολουθία κινέζικων συμβόλων εισέρχεται στο δωμάτιο, το άτομο τα επεξεργάζεται σύμφωνα με τους κανόνες που διαθέτει και εξάγει μια κατάλληλη ακολουθία από επίσης κινέζικα σύμβολα.

Ύστερα από λίγο καιρό το άτομο μέσα στο δωμάτιο, με τη μηχανοποίηση της συνήθειας, γίνεται τόσο ικανό στο να εκτελεί τους κανόνες χειρισμού των κινέζικων συμβόλων και τα πρόσωπα έξω από το δωμάτιο είναι τόσο ικανά στο να του προμηθεύουν τους σωστούς κανόνες, ώστε από την άποψη ενός εξωτερικού παρατηρητή οι απαντήσεις που δίνει το άτομο φαίνονται εντελώς σωστές και όμοιες με τις απαντήσεις που θα έδινε κάποιος που έχει τα κινέζικα μητρική του γλώσσα. Στην περίπτωση όμως των κινέζικων, και αντίθετα με ό,τι συμβαίνει με την πραγματική μητρική γλώσσα του ατόμου, τα ελληνικά, οι απαντήσεις δίνονται διαμέσου του χειρισμού τυπικών συμβόλων που είναι ανερμήνευτα γι’ αυτό. Ως προς τα κινέζικα λοιπόν το άτομο συμπεριφέρεται όπως ένας υπολογιστής, δηλαδή εκτελεί διεργασίες υπολογισμού πάνω σε στοιχεία που έχουν προσδιοριστεί με τυπικό τρόπο, και επομένως είναι απλώς μια εξατομίκευση του προγράμματος ενός υπολογιστή.    

Συνεπώς, ο εξωτερικός παρατηρητής υποθέτει ότι το άτομο μέσα στο δωμάτιο γνωρίζει κινέζικα, πράγμα το οποίο δεν αληθεύει. Το άτομο αυτό απλώς συμπεριφέρεται ως γνώστης των κινέζικων χωρίς στην πραγματικότητα να τα γνωρίζει. Εκείνο που κάνει είναι να χειρίζεται σύμβολα με τη βοήθεια κανόνων χωρίς να γνωρίζει τι σημαίνουν αυτά τα σύμβολα  Επομένως, το Κινέζικο Δωμάτιο αντιστοιχεί στη λειτουργία ενός υπολογιστή και με αυτό ο Searle δείχνει ότι η εκτέλεση κανόνων δεν μπορεί ποτέ να θεωρηθεί κατανόηση ή σκέψη, εφόσον αυτό που κάνει το άτομο μέσα στο δωμάτιο, αλλά και οι υπολογιστές, είναι ο χειρισμός συμβόλων σύμφωνα με τη μορφή τους και τους αντίστοιχους κανόνες.

Ο Searle για να υποστηρίξει το επιχείρημά του κάνει κάποιες γενικές παραδοχές:

(1) Ο εγκέφαλος προκαλεί τη νόηση. Οι νοητικές διαδικασίες προκαλούνται από/ έχουν αίτιο τις διαδικασίες που πραγματοποιούνται στον εγκέφαλο.

(2) Η μορφή/ σύνταξη δεν μπορεί να επαρκέσει για το νόημα/ σημασία.

(3) Τα προγράμματα έχουν καθαρά συντακτική δομή, με άλλα λόγια είναι ευαίσθητα μόνο στις μορφές των συμβόλων που χρησιμοποιούν.

(4) Η γνήσια κατανόηση (και άρα όλη η σκέψη) είναι ευαίσθητη στο νόημα/ σημασία των συμβόλων.

Με αυτή την τελευταία παραδοχή εξηγεί ότι οι σκέψεις, οι πεποιθήσεις, οι επιθυμίες του ανθρώπου αφορούν σε κάτι ή έχουν να κάνουν με καταστάσεις πραγμάτων του κόσμου. Αυτό συμβαίνει επειδή το περιεχόμενό τους τις οδηγεί προς αυτές τις καταστάσεις πραγμάτων του κόσμου.

Από τις παραδοχές (2), (3), (4) καταλήγει στο:

Συμπέρασμα 1. Κανένα σύνολο κανόνων δεν επαρκεί για να προσδώσει νοητικές καταστάσεις σε ένα σύστημα. Εν ολίγοις, το σύνολο κανόνων/ πρόγραμμα δεν είναι νους και δεν επαρκεί από μόνο του ως νους.

Αυτό είναι πολύ σημαντικό συμπέρασμα, διότι δείχνει ότι οποιαδήποτε προσπάθεια δημιουργίας νοητικών καταστάσεων βασισμένη μόνο στον σχεδιασμό κανόνων/ προγραμμάτων είναι καταδικασμένη σε αποτυχία από την αρχή. Και αυτό αφορά σε οποιαδήποτε πολυπλοκότητα κανόνων/ προγραμμάτων. Αυτό είναι καθαρά λογικό συμπέρασμα, το οποίο συνάγεται από το σύνολο αξιωμάτων/ παραδοχών (1) – (4), τα οποία δέχονται όλοι,  ακόμη και όσοι έχουν ενστάσεις για τις απόψεις του Searle. Ακόμη και οι πιο ένθερμοι υποστηρικτές της άποψης ότι οι κανόνες επαρκούν για την κατανόηση και τη σκέψη, συμφωνούν ότι βιολογικά οι εγκεφαλικές δραστηριότητες προκαλούν τις νοητικές καταστάσεις και επίσης συμφωνούν ότι τα προγράμματα ορίζονται εντελώς τυπικά/ συντακτικά. Αλλά αυτό το συμπέρασμα δείχνει ότι η άποψη πως η κατανόηση επιτυγχάνεται μέσα από την εκτέλεση κανόνων δεν ευσταθεί.

Από την παραδοχή (1) και το Συμπέρασμα 1 καταλήγει στο:

Συμπέρασμα 2: Ο τρόπος με τον οποίο οι εγκεφαλικές λειτουργίες προκαλούν τις νοητικές καταστάσεις δεν είναι δυνατό να οφείλεται στην εκτέλεση συνόλου κανόνων ή προγράμματος υπολογιστή.

Εφόσον ο εγκέφαλος προκαλεί τις νοητικές καταστάσεις και τα προγράμματα δεν επαρκούν για να εκτελέσουν αυτή την εργασία, είναι προφανές ότι αυτό δεν μπορεί να γίνει απλά με την εκτέλεση ενός προγράμματος. Και αυτό είναι σημαντικό συμπέρασμα, αφού ουσιαστικά λέει ότι ο εγκέφαλος δεν είναι υπολογιστής και ότι οι υπολογιστικές ιδιότητες του εγκεφάλου δεν αρκούν για να εξηγήσουν το πώς παράγει τις νοητικές καταστάσεις. Εκείνο που έχει σημασία είναι ότι ο εγκέφαλος είναι βιολογική μηχανή και όχι αυτό που υποστηρίζουν οι οπαδοί της άποψης πως οι κανόνες επαρκούν για την κατανόηση και τη σκέψη, δηλαδή ότι απλώς ο νους τυχαίνει να πραγματώνεται στους ανθρώπινους εγκεφάλους.

Από την παραδοχή (1) καταλήγει και σε ένα άλλο:

Συμπέρασμα 3: Οτιδήποτε άλλο προκαλεί νοητικές καταστάσεις πρέπει να έχει αιτιατές δυνάμεις, τουλάχιστον ισοδύναμες με αυτές του εγκεφάλου.

Μπορεί φυσικά κάποιο άλλο σύστημα να προκαλεί νοητικές διαδικασίες χρησιμοποιώντας διαφορετικά βιοχημικά ή χημικά χαρακτηριστικά από αυτά που χρησιμοποιεί ο εγκέφαλός μας. Λέει λοιπόν ο Searle ότι μπορούμε να υποθέσουμε ότι φτάνουν στη Γη οι Αρειανοί και καταλήγουμε στο συμπέρασμα ότι έχουν νοητικές καταστάσεις. Αλλά όταν εξετάζουμε το κεφάλι τους ανακαλύπτουμε ότι έχει μέσα κάποιο πράσινο γλοιώδες υλικό. Αυτό το υλικό για να μπορεί να παράγει συνειδητότητα και τα υπόλοιπα χαρακτηριστικά της νοητικής ζωής πρέπει να έχει αιτιατές δυνάμεις ισοδύναμες με αυτές του ανθρώπινου εγκεφάλου.

Τέλος,  από το Συμπέρασμα 1 και το Συμπέρασμα 3 φτάνει στο:

Συμπέρασμα 4: Οποιοδήποτε δημιούργημα μπορούμε να κατασκευάσουμε, το οποίο να έχει νοητικές καταστάσεις ισοδύναμες με αυτές του ανθρώπου, η πραγμάτωσή του μόνο από ένα σύνολο κανόνων δεν είναι επαρκής. Αντιθέτως, το δημιούργημα πρέπει να έχει δυνάμεις ισοδύναμες με αυτές του ανθρώπινου εγκεφάλου.

Η συζήτηση αυτή έχει ως σκοπό να υπενθυμίσει ότι οι νοητικές καταστάσεις είναι βιολογικά φαινόμενα. Η συνειδητότητα, η προθετικότητα, η υποκειμενικότητα και η νοητική αιτιότητα είναι μέρος της βιολογικής μας ιστορίας όπως και η ανάπτυξη, η αναπαραγωγή και η πέψη. Η ουσία των λεγομένων του Searle έγκειται στην παραδοχή 2 και στη διαφοροποίηση μεταξύ σύνταξης (syntax) και σημασίας (semantics). Ως συμπέρασμα λοιπόν του νοητικού πειράματος, ο Searle υποστηρίζει ότι η νόηση είναι κάτι παραπάνω από τον συντακτικό χειρισμό συμβόλων σύμφωνα με κάποιους κανόνες.

Σημείωση: Μια κατάλληλη αντιστοίχηση επιτρέπει να οδηγηθούμε στα ίδια συμπεράσματα, π.χ. για την Αίθουσα Μαθηματικών του Σχολείου, με αυτά του Searle για το Κινέζικο Δωμάτιο.