Αν πρόκειται να έρθετε σε μένα, μπορείτε να έρθετε σωστά ή θα χαστήσω το αδύναμο επιχείρημα σας γύρω από μια γάτα που παίζει με μια μπάλα.

Πρώτα απ 'όλα, το διάβασα.

Δεύτερον, έχω ξεχάσει περισσότερα ακαδημαϊκά έγγραφα για το AI από ό, τι θα διαβάσετε ολόκληρη τη ζωή σας.

Τρίτον, απευθύνεστε σε μια άσχετη αρχή που έγραψε ένα βιβλίο ποπ φιλοσοφίας. Μου άρεσε πολύ για το sci-fi μου και γι 'αυτό. Μην έρχεστε σε με με τις λογικές σας πλάνες.

Τέταρτον, εάν διαβάσετε ανθρώπους που εργάζονται στην AI, θα γνωρίζετε ότι το AI δεν λειτουργεί όπως αυτό που περιγράφει και ότι ο Bostrom κάνει μια έρευνα για το τι σκέφτονται οι άνθρωποι δεν είναι επιστημονική ανάλυση. Είναι ένα αστείο. Ακόμη και οι τύποι που δούλευαν για το Musk στο OpenAI δεν αγοράζουν το superintelligence θα μας σκοτώσουν όλα τα επιχειρήματα.

Ακολουθούν οι πραγματικοί ερευνητές του AI για το Bostrom και το ερώτημα πότε έρχεται η υπερκάλυψη:

διαδίκτυο-

"" Τρόπος, τρόπος, τρόπος περισσότερο από 25 χρόνια. Αιώνες πιο πιθανό. Αλλά όχι ποτέ. "

"Είμαστε ανταγωνιστές με την εξέλιξη του ανθρώπινου εγκεφάλου εκατομμυρίων ετών. Μπορούμε να γράψουμε προγράμματα ενιαίου σκοπού που μπορούν να ανταγωνιστούν με τους ανθρώπους, και μερικές φορές υπερέχουν, αλλά ο κόσμος δεν είναι κατακερματισμένος σε θέματα μεμονωμένων προβλημάτων. "

"Ο Nick Bostrom είναι επαγγελματίας αστυνομικός. Ο ρόλος του Ινστιτούτου του είναι να βρει υπαρξιακές απειλές για την ανθρωπότητα. Τους βλέπει παντού. "

Οι άνθρωποι έχουν ονειρευτεί υπαρξιακές απειλές από τότε που βγούμε από το βάλτο. Πρώτα ήταν βροντή. Τότε ήταν ο Θεός της Βροχής να θυμώνει με μας αν δεν χορέψαμε αν το αγρόκτημα ή να θυσιάσουμε μια κατσίκα την κατάλληλη στιγμή. Τότε ήταν ραγισμένα κελύφη χελωνών λέγοντας στον αυτοκράτορα κάτι κακό θα συνέβαινε. Τότε ήταν η εκβιομηχάνιση. Αγαπάμε μεγάλες φρικτές απειλές. Τώρα έχουμε super-AI.

Εάν θέλετε να γράψετε ένα δημοφιλές βιβλίο, απλά επιλέξτε κάθε υπαρξιακή απειλή που σας αρέσει, είτε πρόκειται για εξωγήινους, μετεωρίτες, για τον Θεό που μας τρελαίνεται ή για υπερσύγχρονη AI και μπορείτε να το πουλήσετε σε ένα εκατομμύριο ηλίθιοι. Αλλά δεν μπορείς να πουλήσεις τα χάλια εδώ και να μιλάς σαν να είναι ακαδημαϊκή έρευνα. Δεν είναι. Είναι μια λατρεία κατά της κρίσης. Και δεν είναι καινούργιο, ανεξάρτητα από το πώς το ντύνομαι σε ψευδο-επιστημονική έρευνα και σε μια συγκεκριμένη γλώσσα που σας κάνει να νιώθετε πιο έξυπνη από ότι είστε. Είναι ένα βήμα από την Πύλη του Ουρανού.

Είμαστε πλάσματα που βασίζονται πλάσματα και αν θέλετε να πουλήσετε φόβο θα βρείτε πάντα αγοραστές. Υπάρχει ένας λόγος που ο Steven King είναι ένας από τους μεγαλύτερους συγγραφείς στον κόσμο.

Πέμπτον, πώς προτείνετε να λύσετε το ανύπαρκτο πρόβλημα; Νομοθεσία? Είμαι βέβαιος ότι η Κίνα θα δώσει σάλο για το νόμο αυτό και δεν θα συνεχίσει να το επιδιώκει. Είμαι βέβαιος ότι οι superintelligent AIs θα νοιάζονται επίσης, αν εμφανιστούν στη σκηνή.

Έκτον, ενώ ανησυχείτε για μακρινές υπαρξιακές απειλές που δεν είναι πραγματικές, έχουμε πραγματικούς AI που βάζουν τους ανθρώπους στη φυλακή, αποφασίζοντας εάν θα λάβετε ένα δάνειο ή όχι και θα οδηγήσετε αυτοκίνητα. Ήρθε η ώρα να ανησυχούμε για τα πραγματικά προβλήματα που μπορούμε να αντιμετωπίσουμε τώρα, αντί για προβλήματα φαντασίας που δεν έχουν λύσεις και απλώς τροφοδοτούν το σφάλμα φόβου.