Τζέφρεϊ Χίντον: Γιατί παραιτήθηκε αιφνιδίως από την Google ο εφευρέτης της τεχνητής νοημοσύνης- Μιλά για θέματα ηθικής και κινδύνους

Παραιτήθηκε για να μιλήσει ανοιχτά, όπως είπε. Το 2012 ανέπτυξε ένα από τα πρώτα λογισμικά τεχνητής νοημοσύνης. Το 2018 τιμήθηκε με το βραβείο Turing, που είναι το Νόμπελ της Πληροφορικής. Και σήμερα δηλώνει ότι υπάρχουν στιγμές που λυπάται για το έργο της ζωής του. Ο Τζέφρεϊ Χίντον ο αποκαλούμενος «νονός (Godfather) της τεχνητής νοημοσύνης», παραιτήθηκε από την Google προκειμένου να μιλήσει χωρίς δεσμεύσεις για τους επερχόμενους κινδύνους από αυτήν την τεχνολογία, όπως έγραψαν αναλυτικά οι Νew York Times.

Εκτός από την απειλή μια πρωτοφανούς εξάπλωσης της παραπληροφόρησης και την κατάργηση ολόκληρων επαγγελματικών κλάδων από chatbot όπως το ChatGPT, αυτό που αληθινά τον φοβίζει είναι ότι σύντομα –«όχι σε 30 ή 50 χρόνια όπως πίστευα» λέει- τα συστήματα τεχνητής νοημοσύνης θα μπορούν να μαθαίνουν από μόνα τους και να αναπτύσσονται χωρίς τον ανθρώπινο έλεγχο –κάτι στο οποίο ο ίδιος έχει καθοριστικά συμβάλει. Σύμφωνα με το MIT Technology Review κατά καιρούς έχει θέσει ηθικά ζητήματα για τη χρήση της τεχνητής νοημοσύνης ιδιαίτερα για τις εφαρμογές της για στρατιωτικούς σκοπούς.

Η σκοτεινή πλευρά της τεχνητής νοημοσύνης και η αιφνίδια παραίτηση του Χίντον από την Google

Ο Geoffrey Hinton, αντιπρόεδρος και συνεργάτης μηχανικός της Google και πρωτοπόρος της βαθιάς μάθησης που ανέπτυξε μερικές από τις πιο σημαντικές τεχνικές στην καρδιά της σύγχρονης τεχνητής νοημοσύνης, αποχωρεί από την εταιρεία μετά από 10 χρόνια, ανέφεραν οι New York Times.

Σύμφωνα με τους Times, ο Hinton λέει ότι έχει νέους φόβους για την τεχνολογία που βοήθησε να εισαχθεί και θέλει να μιλήσει ανοιχτά γι ‘αυτούς και ότι ένα μέρος του τώρα μετανιώνει για τη δουλειά της ζωής του.

Ο Hinton, ο οποίος θα μιλήσει ζωντανά στο MIT Technology Review στο EmTech Digital την Τετάρτη στην πρώτη του συνέντευξη μετά την παραίτηση, ήταν κοινός παραλήπτης με τον Yann Lecun και τον Yoshua Bengio του Βραβείου Turing 2018 – το αντίστοιχο του Νόμπελ υπολογιστών.

«Η συνεισφορά του Geoff στην τεχνητή νοημοσύνη είναι τεράστια», λέει ο Lecun, ο οποίος είναι επικεφαλής επιστήμονας AI στη Meta. «Δεν μου είχε πει ότι σχεδίαζε να φύγει από την Google, αλλά δεν είμαι πολύ έκπληκτος».

Ο 75χρονος επιστήμονας υπολογιστών έχει μοιράσει το χρόνο του μεταξύ του Πανεπιστημίου του Τορόντο και της Google από το 2013, όταν ο τεχνολογικός γίγαντας εξαγόρασε την startup τεχνητής νοημοσύνης της Hinton DNNresearch. Η εταιρεία του Hinton ήταν μια ομάδα έρευνας, η οποία έκανε πρωτοποριακή δουλειά με τη μηχανική μάθηση για την αναγνώριση εικόνων εκείνη την εποχή. Η Google χρησιμοποίησε αυτήν την τεχνολογία για να ενισχύσει την αναζήτηση φωτογραφιών και πολλά άλλα.

Ο Hinton έχει εδώ και καιρό διατυπώσει ηθικά ερωτήματα σχετικά με την τεχνητή νοημοσύνη, ειδικά τη συνεργασία της για στρατιωτικούς σκοπούς. Έχει πει ότι ένας λόγος που επέλεξε να περάσει μεγάλο μέρος της καριέρας του στον Καναδά είναι ότι είναι ευκολότερο να λάβει χρηματοδότηση έρευνας που δεν έχει δεσμούς με το Υπουργείο Άμυνας των ΗΠΑ.

Όπως αναφέρει το ΜΙΤ Review, ο Hinton είναι περισσότερο γνωστός για έναν αλγόριθμο που ονομάζεται backpropagation, τον οποίο πρότεινε για πρώτη φορά με δύο συναδέλφους του τη δεκαετία του 1980. Η τεχνική, η οποία επιτρέπει στα τεχνητά νευρωνικά δίκτυα να μαθαίνουν, σήμερα στηρίζει σχεδόν όλα τα μοντέλα μηχανικής μάθησης. Με λίγα λόγια, η αντίστροφη διάδοση είναι ένας τρόπος προσαρμογής των συνδέσεων μεταξύ τεχνητών νευρώνων ξανά και ξανά έως ότου ένα νευρωνικό δίκτυο παράγει την επιθυμητή έξοδο.

Ο Hinton πίστευε ότι η οπίσθια διάδοση μιμείται τον τρόπο με τον οποίο μαθαίνουν οι βιολογικοί εγκέφαλοι. Από τότε έψαχνε για ακόμα καλύτερες προσεγγίσεις, αλλά ποτέ δεν βελτιώθηκε σε αυτό.

«Στις πολυάριθμες συζητήσεις μου με τον Geoff, ήμουν πάντα ο υποστηρικτής της οπισθοδρόμησης και εκείνος πάντα έψαχνε για μια άλλη διαδικασία μάθησης, μια που πίστευε ότι θα ήταν πιο εύλογη βιολογικά και ίσως ένα καλύτερο μοντέλο για το πώς λειτουργεί η μάθηση στον εγκέφαλο», λέει ο Lecun. .

«Ο Geoff Hinton αξίζει σίγουρα τα μεγαλύτερα εύσημα για πολλές από τις ιδέες που κατέστησαν δυνατή την τρέχουσα βαθιά μάθηση», λέει ο Bengio, ο οποίος είναι καθηγητής στο Πανεπιστήμιο του Μόντρεαλ και επιστημονικός διευθυντής του Montreal Institute for Learning Algorithms. «Υποθέτω ότι αυτό τον κάνει επίσης να αισθάνεται ένα ιδιαίτερα ισχυρό αίσθημα ευθύνης για την ειδοποίηση του κοινού σχετικά με τους πιθανούς κινδύνους από τις επακόλουθες προόδους στην τεχνητή νοημοσύνη».

«Ο Geoff έχει κάνει θεμελιώδεις ανακαλύψεις στην τεχνητή νοημοσύνη και εκτιμούμε τη δεκαετία των συνεισφορών του στην Google», λέει ο επικεφαλής επιστήμονας της Google, Jeff Dean. «Μου άρεσε πολύ οι πολλές συζητήσεις μας όλα αυτά τα χρόνια. Θα μου λείψει και του εύχομαι να είναι καλά».