- Ο πρωτοπόρος Jeffrey Hinton προειδοποιεί Αυτή η τεχνητή νοημοσύνη μπορεί κάποτε να ξεπεράσει και να ελέγξει την ανθρωπότητα. Λέει ότι ο αγώνας AI AI, με βάση το κέρδος, μπορεί να επιταχύνει τον κίνδυνο.
Ο Jeffrey Khinton, ένας από τους “σταυρούς -παθούς του AI”, προειδοποιεί ότι η τεχνολογία που βοήθησε να δημιουργήσει μπορεί να πάρει τον έλεγχο των ανθρώπων.
Σε συνέντευξή του στο CBS το Σάββατο το πρωί, ο Hinton είπε ότι η AI αναπτύχθηκε ακόμη πιο γρήγορα από ό, τι αρχικά περίμενε, αναφερόμενος στην επιτάχυνση των πράκτορων του AI ως μια ιδιαίτερα τρομερή εξέλιξη.
Προέβλεψε επίσης ότι η τεχνητή γενική νοημοσύνη, το θεωρητικό σύστημα του AI, το οποίο έχει ανθρώπινες γνωστικές ικανότητες, μπορεί να φτάσει σε 10 χρόνια ή λιγότερο.
Ο Hinton, ο οποίος είναι ένας από τους δημιουργούς των βασικών τεχνολογιών του νευρικού δικτύου, έχει προειδοποιήσει από καιρό ότι η AI θα μπορούσε να αποτελέσει υπαρξιακή απειλή για τους ανθρώπους.
Το 2023, έφυγε από την Google αφού ανησυχεί βαθιά για τους κινδύνους που μπορεί να εκπροσωπεί η τεχνητή νοημοσύνη (AI) για την ανθρωπότητα. Εκείνη την εποχή, είπε ότι ήθελε να μιλήσει ανοιχτά για αυτούς τους κινδύνους, χωρίς να περιορίζει τον εαυτό του στις σχέσεις του με μια μεγάλη τεχνολογική εταιρεία.
Νωρίτερα, προειδοποίησε ότι τα συστήματα AI μπορούν κάποτε να γίνουν πιο έξυπνα από τους ανθρώπους και να ενεργούν καθώς δεν μπορούμε να ελέγξουμε – εξακολουθούν να αποτελούν απειλή για την ίδια την ανθρωπότητα.
Σε μια συνέντευξη, η οποία προβλήθηκε στο τέλος της περασμένης εβδομάδας, ο Hinton διπλασίασε αυτούς τους φόβους.
“Εάν εξετάσετε την πιθανότητα ότι αυτά τα πράγματα θα γίνουν πολύ πιο έξυπνα από εμάς, και στη συνέχεια θα πάρουν μόνο τον έλεγχο από εμάς, απλά πάρτε τα οκτώ, την πιθανότητα ότι αυτό πιθανότατα θα συμβεί περισσότερο από 1% και, πιθανώς, λιγότερο από 99%.
“Είμαι σε ανεπιτυχή θέση να συμφωνήσω με τον Elon Musk για το θέμα αυτό, δηλαδή ότι είναι από 10% έως 20%, ότι αυτά τα πράγματα θα έχουν κατοχή”, ανέφερε, προσθέτοντας ότι αυτό εξακολουθεί να είναι απλώς μια “άγρια υπόθεση”.
“Ο καλύτερος τρόπος για να καταλάβουμε συναισθηματικά αυτό είναι ότι μοιάζουμε με ένα άτομο που έχει αυτή την πραγματικά χαριτωμένη τίγρη”, εξήγησε ο Hinton. “Εάν δεν μπορείτε να είστε βέβαιοι ότι δεν θα θελήσει να σας σκοτώσει όταν μεγαλώνει, πρέπει να ανησυχείτε.”
Τόνισε ότι εάν ο κόσμος συνέχισε να προσεγγίζει το AI με μια κερδοφόρα σκέψη, υπάρχει μεγάλη πιθανότητα να απορροφήσει την απορρόφηση του AI ή των φτωχών παραγόντων που χαμογελούν τεχνολογία για επικίνδυνα μέσα, όπως η μαζική παρατήρηση.
“Αν κοιτάξετε τι κάνουν οι μεγάλες εταιρείες τώρα, ασκούν πιέσεις για να πάρουν λιγότερη ρύθμιση του AI. Είναι απίθανο να υπάρχει ρύθμιση, αλλά θέλουν λιγότερο”, δήλωσε ο Hinton. «Πρέπει να αναγκάσουμε το κοινό να ασκήσει πίεση στις κυβερνήσεις να κάνουν κάτι σοβαρό».
Ο Hinton δεν είναι ο μόνος νονός του AI, εκφράζοντας την τεχνολογία που βοήθησε να δημιουργήσει. Ο Yoshua Bengii, ο οποίος έλαβε το βραβείο Turing με τον Hinton το 2018, προειδοποίησε επίσης ότι ο AI θα μπορούσε να ξεπεράσει τους ανθρώπους και ενδεχομένως να οργανώσει την απορρόφηση.
Ο Bengio πήγε λίγο περισσότερο, προειδοποιώντας για τους κινδύνους του AI, λέγοντας ότι ήταν ένοχος βοήθειας στην εφεύρεση της βαθιάς μάθησης, γιατί τώρα μπορεί να χρησιμοποιηθεί εσφαλμένα με επικίνδυνες τρόπους.
II επιρροή στον κόσμο
Παρά την ανησυχία του, ο Hinton είπε ότι υπάρχει επίσης λόγος αισιοδοξίας σχετικά με την επιρροή που θα έχει ο AI στον κόσμο, δείχνοντας την υγειονομική περίθαλψη, την ανάπτυξη ναρκωτικών και εκπαίδευσης ως τομέα όπου η AI μπορεί να βελτιώσει την ανθρώπινη εμπειρία.
Η AI έχει ήδη επιδείξει σημάδια επίτευξης του ανθρώπινου επιπέδου διαγνωστικών δεξιοτήτων, αλλά σε άλλους τομείς δεν υπάρχει αρκετή.
Στην εκπαίδευση, η ανάπτυξη των εκπαιδευτικών του AI μπορεί να βοηθήσει στην εξατομίκευση της εκπαίδευσης για τους μαθητές και να εκφορτώσει κάποιο φόρτο εργασίας των εκπαιδευτικών. Το OpenAI εργάζεται ήδη με πολλά κορυφαία πανεπιστήμια για να δώσει στους μαθητές και τους εργαζόμενους πρόσβαση στη χρηματοδότηση και “προηγμένα” εργαλεία AI.
Ο Hinton είπε ότι η ανάπτυξη εξατομικευμένων καθηγητών AI θα είναι “κακά νέα για τα πανεπιστήμια, αλλά καλά νέα για τους ανθρώπους”.
Αλλάζει επίσης τη θέση του σχετικά με την κίνηση της εργασίας με τον AI, λέγοντας ότι τώρα ανησυχεί ότι οι άνθρωποι θα μπορούσαν να χάσουν τη δουλειά τους από την τεχνολογία και προειδοποίησαν ότι αυτό θα μπορούσε να επιδεινώσει την ασυνέπεια του πλούτου.
Αυτή η ιστορία παρουσιάστηκε αρχικά στο Fortune.com
