Το παρακάτω είναι ο επίλογος μιας ανάρτησης του Σένγκιου Λιου, ενός από τους κορυφαίους μηχανικούς της Κινεζικής εταιρείας ΤΝ DeepSeek που συνεισφέρει στην ανάπτυξη των πρωτοποριακών μοντέλων της. Η προσωπική ανάρτηση είναι εδώ (στα Κινεζικά - αλλά πλέον μεταφράζονται αυτόματα)
- https://mp.weixin.qq.com/s/zk0KxuLzhmMJ4LPYW_OHMA
Η ανάρτηση αφορά τα συναισθήματα του για το ότι έχει συνεισφέρει στην δημιουργία εργαλείων που θα εξαφανίσουν την δουλειά που αγαπά, το πώς θα αλλάξει το τοπίο της ανάπτυξης κώδικα και τους κινδύνους της χρήσης για την ανθρώπινη μάθηση και γνώση. Ο τίτλος του είναι χαρακτηριστικός: “Είμαι υποχρεωμένος να θάψω το ταλέντο μου στο χθες”. Εδώ μια τίμια περιγραφή του τι περιέχει το κείμενο και τι σημαίνει:
Business Insider | A DeepSeek engineer’s viral post on talent, power, and humanity is a rare snapshot of work at China’s frontier AI labs
Η κατάληξη όμως του κειμένου είναι εξαιρετικά ενδιαφέρουσα. Δείχνει νομίζω ως ένα βαθμό και το αξιακό και πολιτισμικό περιβάλλον μέσα στο οποίο ανθίζει η υψηλή κινεζική τεχνολογία (αλλά και την “παιδεία” του gaming που είναι προφανώς διάχυτη σε όλο τον τεχνολογικό κλάδο και στην χάκερ κουλτούρα ανεξαρτήτως ηπείρου), αλλά και τον τεχνο-οπτιμισμό που κινητροδοτεί την ασιατική υψηλή τεχνολογία. Δείχνει και μια τελείως διαφορετική συγκρότηση κινήτρων και στόχων σε προσωπικό επίπεδο από τη Δύση (και μια ξεχασμένη -στη Δύση- αίσθηση καθήκοντος προς το μέλλον). Το παραθέτω ολόκληρο σε αυτόματη μετάφραση με δύο επεξηγήσεις:
Το Cyberpunk 2077 είναι ένα δυστοπικό βιντεοπαιχνίδι της πολωνικής εταιρείας CD Projekt Red, που κυκλοφόρησε το 2020. παρουσιάζει μια κοινωνία όπου: γιγαντιαίες εταιρείες έχουν συγκεντρώσει τεράστια οικονομική και πολιτική ισχύ, η τεχνολογία είναι εξαιρετικά προηγμένη, αλλά δεν είναι ισότιμα προσβάσιμη, οι πλούσιοι μπορούν να αγοράζουν κυβερνοεμφυτεύματα, βιοτεχνολογία και πρόσθετα του σώματος και του εγκεφάλου, η πλειονότητα του πληθυσμού ζει σε πολύ χειρότερες συνθήκες και η κοινωνική κινητικότητα είναι εξαιρετικά περιορισμένη.
Ουσιαστικά το πιο διάσημο μοτίβο του cyberpunk 2077 είναι:
high tech, low life
δηλαδή υψηλή τεχνολογία, χαμηλή ποιότητα ζωής.
Όσο για την κατακλείδα, αυτή είναι ο στίχος-κατακλείδα του τραγουδιού “Moon Halo”, από το soundtrack του ηλεκτρονικού παιχνιδιού Honkai Impact 3rd.
Ακολουθεί η απόδοση του επίλογου:
Με την ανάπτυξη της AI, η κοινωνία του μέλλοντος ενδέχεται να κινηθεί προς δύο ακραίες κατευθύνσεις: τον κομμουνισμό και το Cyberpunk 2077. Στην πρώτη περίπτωση, η παραγωγικότητα θα έχει απελευθερωθεί σε τεράστιο βαθμό και το βιοτικό επίπεδο των ανθρώπων θα έχει βελτιωθεί αισθητά (ας γράψω μόνο αυτά, γιατί φοβάμαι μήπως δεν περάσει τα φίλτρα). Στη δεύτερη, ένας μικρός αριθμός τεχνολογικών εταιρειών θα ελέγχει το μεγαλύτερο μέρος των πόρων, ενώ ελάχιστοι θα έχουν πρόσβαση στις πιο προηγμένες μορφές AI και σε κάθε λογής τεχνολογία, καταλήγοντας σε ένα αποτέλεσμα που θα πλησιάζει την μηχανική τεχνο-υπέρβαση του ανθρώπινου. Η μεγάλη πλειονότητα του κόσμου, αντίθετα, θα μπορεί να χρησιμοποιεί μόνο πολύ περιορισμένες μορφές AI.
Η κοινωνική κινητικότητα θα γίνεται ολοένα και πιο περιορισμένη: για να μπορέσεις να ανέβεις κοινωνική τάξη, θα πρέπει πρώτα να διαθέτεις την ισχυρότερη AI. Έτσι θα δημιουργείται ένας φαύλος κύκλος.
Μαντέψτε λοιπόν: αν η Anthropic διαθέτει για πάντα την πιο προηγμένη AI στον κόσμο, η κοινωνία του μέλλοντος θα μοιάζει περισσότερο με τον κομμουνισμό ή με το 2077; Κάντε μια πρόβλεψη.
Γι’ αυτό εξακολουθώ να πιστεύω ότι η πιο προηγμένη τεχνολογία νοημοσύνης θα πρέπει να παρέχεται σε όλους με ανοιχτό και οικονομικά προσιτό τρόπο. Δεν εμπιστεύομαι ότι η Anthropic ή η OpenAI μπορούν να το κάνουν αυτό. Και ειδικά δεν θα ήθελα η Anthropic να έχει τον έλεγχο της πιο προηγμένης τεχνητής νοημοσύνης ή της AGI. Για να το θέσω κάπως υπερβολικά, η βαρύτητα μιας τέτοιας εξέλιξης δεν θα ήταν μικρότερη από το να είχε αποκτήσει ο Χίτλερ την τεχνολογία της ατομικής βόμβας πριν από τους Συμμάχους.
Αυτός είναι και ο λόγος που επέλεξα και επιμένω να παραμένω στη DeepSeek: το να ερευνούμε ισχυρή, γρήγορη και καθολικά προσβάσιμη τεχνητή νοημοσύνη και να τη διαθέτουμε ως ανοιχτό κώδικα ίσως μπορέσει να τραβήξει τον κόσμο λίγο μακριά από το φάσμα του 2077.
Εύχομαι ο κόσμος του μέλλοντος να είναι γεμάτος ειρήνη και ευημερία.
May all the beauty be blessed.
Ας σημειώσω πως η ανησυχία στις ΗΠΑ για την ανθρωποκτόνα ΤΝ (το Skynet προ των πυλών) σε αντίθεση με τον φιλοσοφικό αναστοχασμό επ’ αυτών στην Κίνα έχει να κάνει -μεταξύ άλλων βέβαια- με την πολιτική οικονομία του χώρου της Υψηλής Τεχνολογίας στις ΗΠΑ (που κατακλύζεται από κοινωνιοπαθείς θιασώτες του τραμπισμού ενώ πολλοί από τους επικεφαλής των μεγάλων εταιρειών της ΤΝ είναι ανοιχτά φασίστες και ομολογημένοι αντίπαλοι της δημοκρατίας). Όπως έχω προσωπικά πει, η προοπτική του να κυριαρχήσει μια αυτόνομη τεχνητή υπερνοημοσύνη στον πλανήτη (εξαιρετικά χλωμό πάντως) είναι απείρως λιγότερο τρομακτικά από την προοπτική του να κυβερνά τον κόσμο ο Τραμπ, ο Μασκ και ο Τίελ π.χ. Συμμερίζομαι λοιπόν απόλυτα όχι μόνο την ανάγκη για ανοιχτότητα σε όλα αυτάμ αλλά και το ad Hitlerum του Σένγκιου Λιου, χωρίς να νιώθω πως διατυπώνει στη συγκεκριμένη περίπτωση κάτι το υπερβολικό.
Για την Αμερικάνικη ανησυχία, την υπερβολή, το επικοινωνιακό μανατζάρισμα και τους στόχους του, σε αμέσως επόμενη ανάρτηση…