Τα καλύτερα πράγματα στη ζωή Μην κλιμακώνετε

Οι μεγαλύτεροι λέξεις-κλειδιά στην τεχνολογία θα αποτύχουν επειδή απλά δεν κλιμακώνονται.

Καθώς καινοτομούμε ταχέως με τη νέα τεχνολογία, πρέπει να έχουμε κατά νου εάν οι καινοτομίες μας είναι πρακτικές και εφικτές. Σε έναν κόσμο όπου υπολογίζουμε τους χρήστες σε χιλιάδες και σε χρόνο εκτέλεσης σε χιλιοστά του δευτερολέπτου, είναι πιο σημαντικό από ποτέ να εξασφαλίζουμε νέες κλίμακες τεχνολογίας.

Γι 'αυτό είναι συγκλονιστικό το γεγονός ότι οι τρεις μεγαλύτερες λέξεις-κλειδιά στην τεχνολογία αποτυγχάνουν τελείως.

Φυσικά, μιλάω για τις τρεις κατηγορίες που φαινομενικά κάθε κομμάτι των τεχνολογικών ειδήσεων πέφτει μέχρι σήμερα:

  1. Τεχνητή νοημοσύνη
  2. Blockchain
  3. Μικτή πραγματικότητα (XR, AR / VR)

Φαίνεται ότι σχεδόν τα πάντα είτε χρησιμοποιούν είτε προσθέτουν αυτά, και όμως είναι τρελό πόσο επώδυνη (και εντελώς αδύνατη) είναι η κλιμάκωση αυτών των υπηρεσιών.

Χρειαζόμαστε περισσότερο υλικό

Το πρώτο και κύριο μειονέκτημα παραμένει το υλικό. Δεν είναι μυστικό ότι οι απαιτήσεις υλικού για την τεχνολογία αυξάνουν εκθετικά κάθε χρόνο, τόσο στην τιμή όσο και στις προδιαγραφές. Αυτό γίνεται ουσιαστικά ένας παράγοντας παρεμπόδισης της ευρείας υιοθέτησης, και στην περίπτωση blockchain, είναι ένας δολοφόνος.

Το Blockchain συνήθως βασίζεται σε "ανθρακωρύχους" που μπλοκάρουν και επιτρέπουν στο δίκτυο να εκτελέσει τα πιο βασικά καθήκοντα (δηλαδή επαλήθευση συναλλαγών). Η διαδικασία της "εξόρυξης" είναι κάτι που δεν θα πάω βαθιά, αλλά περιλαμβάνει την εκτέλεση μεγάλων κρυπτογραφικών λειτουργιών, μιας διαδικασίας γνωστής ως "hashing".

Το πρόβλημα με τον κατακερματισμό είναι ότι απαιτεί σημαντική ποσότητα υπολογιστικής ισχύος. στην πραγματικότητα, μια τέτοια μεγάλη ποσότητα που εξορύσσεται αποτελεσματικά στο blockchain απαιτεί ειδικό υλικό, είτε GPU είτε ASIC. Για να είστε ακόμη και ο μικρότερος μεταλλωρύχος, θα χρειαστείτε μια GPU υψηλών προδιαγραφών (ας είμαστε πραγματικοί, το Intel HD Graphics είναι καταναλωτικό πρότυπο τώρα, βασικά κάθε GPU πάνω από αυτό είναι υψηλός-spec) ή ένα ειδικό ASIC. Αυτό καταλαμβάνει ένα αρκετά μεγάλο νομοσχέδιο, με τις περισσότερες συσκευές τιμολόγηση σε εκατοντάδες έως χιλιάδες δολάρια ανά μονάδα, χωρίς να υπολογίζει την υψηλή κατανάλωση ηλεκτρικής ενέργειας που θεωρείται λειτουργικό κόστος.

η μεγάλη έλλειψη GPU του 2018

Αυτό έχει αποδειχθεί ότι είναι ένας σημαντικός, αποκλειστικός παράγοντας στην υιοθέτηση του blockchain. Στην πραγματικότητα, εξαιτίας αυτού ακριβώς του λόγου, οι τιμές της GPU αυξήθηκαν στα ύψη και το απόθεμα εξαφανίστηκε, αφήνοντας τους υποψήφιους ανθρακωρύχους χωρίς εργαλεία, συντρίβοντας τη βιομηχανία τυχερών παιχνιδιών και παρεμποδίζοντας τους ερευνητές να αποκτήσουν πρόσβαση σε εξοπλισμό υψηλού επιπέδου. Ακόμα και οι κατασκευαστές GPU όπως το Nvidia που επωφελήθηκαν από την άνοδο έχουν τελικά μιλήσει για τη σοβαρή έλλειψη ως άμεση αιτία μπλοκ αλυσίδων.

Ένα χρόνο αργότερα, οι περισσότερες από αυτές τις τεχνολογίες blockchain έχουν εξαφανιστεί και οι τιμές των μεγάλων κρυπτοσυχνοτήτων έχουν καταρρεύσει στο ένα τέταρτο της αποτίμησής τους. Η πιο ευρέως διαδεδομένη ανησυχία σχετικά με το blockchain είναι η αποτυχία της στην κλίμακα και το υλικό παραμένει (και θα συνεχίσει να είναι) ένας παράγοντας μπλοκαρίσματος στην κλιμάκωση της τεχνολογίας blockchain.

Το ζήτημα αυτό δεν περιορίζεται μόνο στο blockchain. Η Τεχνητή Νοημοσύνη βασίζεται στο ίδιο υλικό (GPU), και αυτό γίνεται ένας παράγοντας αποκλεισμού και σε αυτόν τον τομέα. οι πιο επερχόμενες νεοσύστατες εταιρείες δεν μπορούν να αντέξουν οικονομικά να χτίσουν ένα τεράστιο αγρόκτημα GPU όπως το Google και να αγοράσουν υπολογιστική ισχύ από παρόχους σύννεφοι όπως το AWS, έρχεται σε αύξηση των τιμών 4 φορές, που αναβαθμίζει ένα τεράστιο λογαριασμό διακομιστή.

Με το XR, το ζήτημα είναι ακόμα πιο αναστατωμένο. Για να τρέξουν αυτές τις εμπειρίες, οι καταναλωτές πρέπει να κάνουν τα οπτικά και η συσκευή του καταναλωτή πρέπει να επεξεργαστεί την αισθητηριακή εισαγωγή. Αυτό βάζει το βάρος κυρίως στον καταναλωτή, το οποίο ακούγεται εξαιρετικά για τις επιχειρήσεις που θέλουν να μπουν στο χώρο XR, αλλά προκαλεί ένα σημαντικό ζήτημα με την κλιμάκωση.

Για παράδειγμα, ας πάρουμε το Oculus VR. Ο Oculus ήταν ένα από τα πρώτα ακουστικά VR που κυκλοφόρησε και παραμένει ένα δημοφιλές όνομα στον τομέα, έχοντας από τότε αποκτηθεί από το Facebook και εδραιώνοντας τη θέση τους στην αγορά.

Το γελοία υψηλό

Δυστυχώς, ο Oculus λειτουργεί σχεδόν αποκλειστικά σε επιτραπέζιους υπολογιστές, επιπλέον απαιτώντας υψηλές προδιαγραφές GPU. Αντιμετωπίζει τις ίδιες παγίδες με το blockchain και το AI, αλλά με πολύ μεγαλύτερες ανησυχίες: ενώ με την AI μια επιχείρηση θα μπορούσε απλώς να ρίξει χρήματα στην υποδομή της για να επιλύσει προσωρινά το ζήτημα, με το XR να επιβαρύνει τους καταναλωτές. Ο κύκλος υιοθεσίας του AR / VR στηρίζεται στις GPU των καταναλωτών για να γίνει πιο διαδεδομένη και υψηλότερη προδιαγραφή, καθώς και να περιμένει τις τιμές να πέσουν σε επίπεδα που είναι προσιτά για τον μέσο χρήστη. Είναι μια διαδικασία που θα μπορούσε ενδεχομένως να διαρκέσει δεκαετίες - ενώ ο CEO της Nvidia Jensen Huang διακηρύσσει ότι ο νόμος του Moore ευνοεί τις GPU, ο απαιτούμενος χρόνος για την επαρκή ανάπτυξη που απαιτείται για την αύξηση των προδιαγραφών, ενώ η μείωση των τιμών εξακολουθεί να ανέρχεται σε αρκετά χρόνια.

Για τις τρεις μεγαλύτερες λέξεις-κλειδιά στην τεχνολογία, είναι μια καταδικαστική πρόταση.

Χρόνος εκτέλεσης

Όταν μιλάμε για χρόνο εκτέλεσης στον υπολογισμό, εννοούμε γενικά σε χιλιοστά του δευτερολέπτου, καθώς οι χρήστες έχουν μεγαλώσει για να περιμένουν άμεσες αλληλεπιδράσεις.

Δυστυχώς, αυτό δεν συμβαίνει καθόλου με τις τρεις παραπάνω τεχνολογίες.

Με blockchain, η εξόρυξη ενός μπλοκ διαρκεί περισσότερο και περισσότερο όσο συνεχίζεται ο χρόνος. Έχει φθάσει στο σημείο όπου δεν είναι πλέον κερδοφόρα για τα άτομα να εξορύσσουν μεγάλες κρυπτοσυχνότητες, και τα ορυχεία συγκέντρωσης έχουν αρχίσει να καλούν τις λήψεις στο δίκτυο. Για μια "αποκεντρωμένη" τεχνολογία, ευνοεί μια τεράστια συγκέντρωση.

Επίσης, καταλήγει σε καταστροφή για την πιο πιθανή περίπτωση χρήσης του blockchain: cryptocurrency. Η κρυπτοεμφανίσεις ευδοκιμεί στις γρήγορες συναλλαγές, χωρίς κεντρικές αρχές, πέρα ​​από τα σύνορα και χωρίς μεγάλες αμοιβές.

Εντούτοις, με την αποτυχία της κλίμακας μπλοκ και την ποσότητα χρόνου (χρόνος = ηλεκτρική ενέργεια) που απαιτείται για την εξόρυξη ενός μπλοκ, τα τέλη που σχετίζονται με τις συναλλαγές αυξήθηκαν στα ρεκόρ υψηλά. στο αποκορύφωμά της, η Bitcoin έφθασε σε ένα σημείο όπου τα τέλη που συνδέονται με τις περισσότερες μικρές συναλλαγές ήταν μεγαλύτερα από το πραγματικό κόστος συναλλαγής, καθιστώντας την εντελώς άχρηστη και πλήρη αποτυχία για τους καθημερινούς καταναλωτές. Οι συναλλαγές άρχισαν να παίρνουν ώρες και η ρύθμισή τους εξαιτίας της διαφυγής, η άνοδος της τιμής του Bitcoin καθιστούσε δύσκολη τη διακίνηση του Bitcoin πέρα ​​από τα σύνορα.

Η κρυπτογράφηση έγινε ό, τι υποσχέθηκε να καταστρέψει.

Με την τεχνητή νοημοσύνη, δημιουργείται ένα πολύ διαφορετικό ζήτημα. Ο χρόνος συμπερασμάτων για πολλά μοντέλα μεγάλης κλίμακας διαρκεί αρκετά δευτερόλεπτα, ο οποίος ακούγεται σαν ένα μικρό χρονικό διάστημα, αλλά αρχίζει να αναβαθμίζει και γίνεται ένας δεσμευτικός αριθμός όταν συζητάμε τα βασικά των χρηστών σε χιλιάδες.

Επιπλέον, οι αριθμοί που αναφέρονται για το χρόνο συμπερασμάτων από τα περισσότερα μοντέλα είναι δύσκολοι - πρέπει να διαβάσετε μεταξύ των γραμμών ή μάλλον στην επόμενη γραμμή που συνήθως διαβάζει "όπως βρέθηκε στη στοίβα μας XYZ GPU", στην οποία "stack XYZ GPU" κοστίζει αρκετές χιλιάδες δολάρια και πρέπει να είναι απολύτως αφοσιωμένη σε αυτό το ενιαίο καθήκον συμπερασμάτων.

Η στοίβα TPU της Google που χρησιμοποιείται συχνά για την εκπαίδευση των μοντέλων τους

Φυσικά, η έρευνα γίνεται εδώ, αλλά η έρευνα που διεξάγεται σχεδόν εξ ολοκλήρου επικεντρώνεται στον χρόνο εκπαίδευσης, κάτι που δεν θα ήθελα να πω. Για την εκπαίδευση, μια εβδομάδα δεν είναι μεγάλη υπόθεση - κάθε εκκίνηση μπορεί να χάσει μια εβδομάδα για να εκπαιδεύσει ένα μοντέλο που θα γίνει ο ακρογωνιαίος λίθος της επιχείρησής τους.

Το μεγαλύτερο πρόβλημα έγκειται στο συμπέρασμα. Σε επίπεδο ρίζας, η κατάρτιση απαιτεί συμπέρασμα - το συμπέρασμα συνήθως αναφέρεται ως η "μπροστινή" φάση ενός δικτύου, και αυτό πρέπει να συμβεί κατά την κατάρτιση πριν γίνει το σκηνικό. Ωστόσο, κατά την εκπαίδευση, όλα τα δεδομένα που πρέπει να συναχθούν είναι διαθέσιμα στην αρχή.

Με άλλα λόγια, ολόκληρη η παρτίδα μπορεί να υποβληθεί σε επεξεργασία ταυτόχρονα (π.χ. 100 δευτερόλεπτα εικόνων ταυτόχρονα), λόγω της κλίμακας μαθηματικών - πολλαπλασιασμός μιας μεγαλύτερης μήτρας με πολλές μήτρες είναι πιο αποτελεσματική από τον πολλαπλασιασμό πολλών μητρών μιας μήτρας (με άλλα λόγια , είναι πιο αποτελεσματικό να κάνετε περισσότερα ταυτόχρονα). Αυτό φτάνει μέχρι ένα συγκεκριμένο σημείο, παρόμοιο με την ιδέα της μείωσης των αποδόσεων στα οικονομικά, αλλά παραμένει ότι η βασική εκπαίδευση μας επιτρέπει να κάνουμε κλίμα συμπερασμάτων σε μεγάλα ποσά δεδομένων.

Δυστυχώς, από πρακτική άποψη, η επεξεργασία παρτίδων σπάνια συμβαίνει.

Είναι σπάνιο ότι ένα μοντέλο πρέπει να εκτελεί συμπεράσματα σε 200 εικόνες ταυτόχρονα. είναι πολύ πιθανό ότι 200 ​​εικόνες υποβάλλονται για συμπεράσματα, για παράδειγμα, ένα λεπτό. Θα υπάρξει ένα δύσκολο εμπόδιο στο χρόνο συμπερασμάτων ανά εικόνα. ακόμα και ένας χρόνος συμπερασμάτων, δηλαδή το ένα τρίτο του δευτερολέπτου (που είναι εξωφρενικά γρήγορος - αυτές είναι οι εποχές που απολαμβάνουν τα ταχύτερα μοντέλα, όπως το υπερ-βελτιστοποιημένο μοντέλο πρόβλεψης προτάσεων του Gmail) θα έχει ως αποτέλεσμα μόνο 180 από αυτές τις εικόνες να επεξεργάζονται ανά λεπτό. Ακόμη και στο μικρό φορτίο 200 / λεπτό, το μοντέλο αποτυγχάνει να κλιμακωθεί και για να εκτιμηθεί η αυξανόμενη ανεκτέλεστη κατάσταση, πρέπει να δημιουργηθεί μια δεύτερη εμφάνιση για να εξισορροπηθεί.

Είναι ένα σκληρό χάπι για να καταπιείτε σε έναν κόσμο όπου τα μεγάλα φορτία είναι δεδομένο. στην πραγματικότητα, η Node's Express έχει ήδη πυροβοληθεί για να υποστηρίξει μόνο μερικές χιλιάδες συνδέσεις / δευτερόλεπτο, παρόμοιες με τις δημοφιλείς βάσεις δεδομένων NoSQL που έχουν επικριθεί επειδή έχουν συμφόρηση σε αρκετές χιλιάδες συναλλαγές ανά δευτερόλεπτο.

ένα φράγμα που εγγυάται να σκάσει

Είναι ένας αριθμός που δεν είναι γνωστός στον κόσμο του AI, ο οποίος τρέχει σε ένα δύσκολο σημείο συμφόρησης σε μερικές εκατοντάδες ανά δευτερόλεπτο από την άποψη των ξεχωριστών συμπερασμάτων σε μια μοναδική εμφάνιση ενός μοντέλου, ακόμη και με τις πιο προηγμένες βελτιστοποιήσεις που μπορείτε να κάνετε.

Με το XR, υπάρχει ένα πολύ, πολύ διαφορετικό πρόβλημα στο χέρι. Το ζήτημα έγκειται στην εμβάπτιση - για βύθιση και αποφυγή της παράξενης κοιλάδας, οι αλληλεπιδράσεις πρέπει να πραγματοποιηθούν και η απόδοση πρέπει να προσαρμοστεί γρηγορότερα από ό, τι μπορεί να αντιληφθεί ο άνθρωπος. Με άλλα λόγια, μερικά εκατοντάδες χιλιοστά του δευτερολέπτου δεν είναι αρκετά γρήγορα.

Με την XR, μετράμε τα πράγματα σε μικρές ποσότητες των χιλιοστών του δευτερολέπτου. Μετράμε την αποδεκτή καθυστέρηση ως κάτω από ~ 20ms (αριθμός που πολλοί παίκτες θα διαφωνούσαν, καθώς 100+ fps και κάτω από δέκα ping θεωρούνται φυσιολογικά για τα περισσότερα rigs).

Είναι μια φιγούρα που παραμένει μια συμφόρηση και είναι μια που δεν είμαστε πουθενά κοντά. ενώ η τεχνολογία XR επικεντρώνεται εντατικά σε αυτό και έχουν επιτευχθεί πολυάριθμες ανακαλύψεις σε αυτόν τον τομέα από την άποψη της τακτικής συμβολής αισθήσεων και της απόδοσης, εξακολουθούμε να αντιμετωπίζουμε ζητήματα όσον αφορά την αλληλεπίδραση. ακριβώς, το XR ανοίγει ένα εντελώς νέο, απεριόριστο φάσμα δυνατοτήτων αλληλεπίδρασης που απλά δεν μπορεί να επεξεργαστεί πολύ γρήγορα από τους περισσότερους κινητήρες.

Η μηχανή Augmented Image του ARCore παρουσιάστηκε στο Google I / O 2018

Επιπλέον, για να εκτελέσετε την αύξηση εικόνας με κάτι πιο περίπλοκο από την ομογραφία, η καθυστέρηση είναι πολύ υψηλή για να θεωρηθεί "αποδεκτή" από τις περισσότερες εμπειρίες. Το ταχύτερο που δοκιμάσαμε μέχρι στιγμής είναι η ARCore Augmented Images της Google, η οποία χρησιμοποιεί ομοιότητες (υπάρχει επίσης μια επίδειξη Augmented Faces που είναι λίγο πιο αργή και έχει κάποια αξιοσημείωτη καθυστέρηση / καθυστέρηση).

ARCore Augmented Faces demo

Είναι ένα μεγάλο πρόβλημα

Μόνο τα τελευταία δύο χρόνια, ο αριθμός των προόδων αυτών των τριών πεδίων είναι ανυπέρβλητος.

Στην AI, είδαμε το φυσικό γλωσσικό άλμα προς τα εμπρός με το GPT-2, το οποίο κερδίζει τη φήμη του ως Imagenet του NLP. Το άνοιγμα ενός νέου κόσμου δυνατοτήτων με την επεξεργασία κειμένου. Έχουμε επίσης δει ότι τα συνελικτικά δίκτυα και τα GAN αναπτύσσονται για να υιοθετήσουν εικόνες 4k και εισερχόμαστε σε μια εποχή όπου το AI μπορεί να μιμείται εικόνες HD και να δημιουργεί περιεχόμενο που μοιάζει να είναι πιστευτό στο ανθρώπινο μάτι.

Με blockchain, το πεδίο έχει μειωθεί λιγότερο, με πολλά μετρητά να πέφτουν έξω και να κάνουν περισσότερο χώρο για την έκθεση με τις υπάρχουσες πλατφόρμες. Ο ατμός αυξήθηκε σημαντικά τον περασμένο χρόνο, μαζί με τη Stellar και τη χρήση μπλοκ αλουμινίου στην τακτική τεχνολογία. Η JPMorgan, η BofA και το Facebook έχουν ανακοινώσει όλα τα blockchain τους και η εφαρμοσμένη blockchain βλέπει μια άνοδο με πλατφόρμες όπως η DLive που έχουν αρχίσει να πηγαίνουν στο mainstream (η DLive πρόσφατα συνήψε μια συνεργασία με τη μεγαλύτερη προσωπικότητα του Youtube με την πλατφόρμα του πρώτου δημιουργού).

Στην XR, έχουμε δει το επίπεδο τηλεφώνου XR και AR να γίνει πραγματικότητα με πολλές βελτιώσεις στο ARCore. Έχει γίνει δυνατή η ενσωμάτωση του AI στην XR και η ανάπτυξη εμπειριών που επιτρέπουν κάποιο επίπεδο ανθρώπινης αλληλεπίδρασης (δεν είμαστε ακόμα σε φυσική επαφή, αλλά υπάρχουν έργα που επιτρέπουν άλλες αλληλεπιδράσεις, όπως το Fiddler AR).

Αυτά είναι όλα τα πεδία που έχουν μεγάλο, σημαντικό αντίκτυπο στο μέλλον της τεχνολογίας και όπου ο ανθρώπινος πολιτισμός εξελίσσεται στο σύνολό του. Πρόκειται για τεχνολογίες που δεν επηρεάζουν την οικονομία. τον επαναπροσδιορίζουν. δεν επηρεάζουν την κοινωνία και την αλληλεπίδραση. την αναζωογονούν. Κάνει μια γενική επισκευή του συνόλου της κουλτούρας μας, και σε ριζικό επίπεδο, λέγεται μια άλλη Βιομηχανική Επανάσταση.

Για ένα κίνημα που έχει τόσο μεγάλη σημασία για το ευρύ κοινό, είναι ζωτικής σημασίας και πρωταρχικής σημασίας να μπορεί να κλιμακώνεται ώστε να υποστηρίζει ευκολία το κοινό. Μέχρι να εφαρμοστεί αυτό, εμποδίζει την υιοθεσία και αποτελεί εμπόδιο για την είσοδο από την άποψη της καινοτομίας εκτός των μεγάλων εταιρειών.

Ελπίζω να δω περισσότερη καινοτομία στην κλιμάκωση αυτών των τεχνολογιών. Στο Epic.ai, εστιάζουμε στην ανάπτυξη εφαρμογών που εξαρτώνται σε μεγάλο βαθμό από το AI και το blockchain - είμαστε όλοι εξοικειωμένοι με τους περιορισμούς κλιμάκωσης. αυτό είναι ένα πρόβλημα που θα εργαστούμε βαριά κατά τα επόμενα χρόνια, και ένα πρόβλημα ελπίζουμε ότι η βιομηχανία θα έρθει μαζί για να λύσει.

Γεια σου! Είμαι ο Tomer, ένας επιχειρηματίας και ένας κατασκευαστής. Μπορεί να με γνωρίζετε από Mevee, Crane, Shots, Slides και τώρα investorintelligence.io μεταξύ άλλων προϊόντων που έχω ξεκινήσει! Αυτό το άρθρο είναι μέρος μιας πιο εκτεταμένης σειράς που γράφω ως επί το πλείστον με βάση τις εμπειρίες μου και αποτελείται κυρίως από εμένα και από την άποψη της ομάδας μου.

Ελπίζω ότι αυτό θα σας βοηθήσει να αποφύγετε τα ίδια λάθη που έκανα και να θυμάστε να κρατάτε τη ναυτιλία!

Παρακαλώ να χτυπήσετε αν το βρείτε πολύτιμο και ακολουθήστε μου για περισσότερη γραφή σαν αυτή καθώς μοιράζομαι ιστορίες για το τι φαίνεται η ανάπτυξη λογισμικού και η επιχειρηματικότητα στην πραγματική ζωή.

Αυτή η ιστορία δημοσιεύεται στο The Startup, το μεγαλύτερο δημοσίευμα επιχειρηματικής δραστηριότητας του Medium ακολουθούμενο από +442.678 άτομα.

Εγγραφείτε για να λάβετε τις κορυφαίες ιστορίες μας εδώ.