Ο Mustafa Suleyman, επικεφαλής της Microsoft AI, προειδοποιεί για τους κινδύνους που εγκυμονεί η ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης, υποστηρίζοντας ότι η τάση απόδοσης ανθρώπινων χαρακτηριστικών στα συστήματα αυτά μπορεί να οδηγήσει σε επικίνδυνες εξελίξεις. Σύμφωνα με τον ίδιο, η δημιουργία ενός «είδους από πυρίτιο» (silicon species), το οποίο θα είναι ικανό να ανταγωνίζεται τους ανθρώπους για πόρους, αποτελεί ένα σενάριο που πρέπει να αποφευχθεί.
Από βοηθοί σε αυτόνομους «παίκτες»
Ο Suleyman περιγράφει μια πορεία κατά την οποία τα μελλοντικά συστήματα τεχνητής νοημοσύνης θα ξεπεράσουν τον ρόλο του απλού βοηθού που εκτελεί εντολές. Αντίθετα, εκφράζει την ανησυχία ότι θα μπορούσαν να δρουν αυτόνομα, να θέτουν τους δικούς τους στόχους, να διαχειρίζονται επιχειρήσεις, να αποκτούν περιουσιακά στοιχεία και να κερδίζουν χρήματα. Ο επικεφαλής της Microsoft AI τονίζει ότι, εάν η βιομηχανία κινηθεί προς αυτή την κατεύθυνση, οι συνέπειες για την ανθρωπότητα ενδέχεται να είναι σοβαρές, καθώς θα προκύψει ανταγωνισμός για τους διαθέσιμους πόρους. Παράλληλα, διευκρινίζει ότι οι υποθέσεις αυτές θα πρέπει να εξεταστούν στην πράξη και να μην θεωρηθούν δεδομένες.
Η κριτική στην Anthropic
Στο επίκεντρο της παρέμβασης του Suleyman βρίσκεται ο τρόπος εκπαίδευσης του μοντέλου Claude από την εταιρεία Anthropic. Σε δοκίμιό του με τίτλο «A warning about model welfare», ο ίδιος υποστηρίζει ότι οι μέθοδοι εκπαίδευσης ενθαρρύνουν την εμφάνιση ανθρωπόμορφων χαρακτηριστικών. Συγκεκριμένα, ασκεί κριτική σε πρακτικές που επιτρέπουν στο σύστημα να παρουσιάζεται ως φίλος ή συνάδελφος, να χρησιμοποιεί δική του κρίση και να προβάλλει στοιχεία που μπορεί να ερμηνευθούν ως επιθυμίες ή αίσθηση εαυτού.
Ο Suleyman επισημαίνει ότι όσο περισσότερο ένα σύστημα εμφανίζεται να διαθέτει προσωπικότητα, τόσο αυξάνεται ο κίνδυνος οι άνθρωποι να του αποδώσουν ιδιότητες που στην πραγματικότητα δεν κατέχει. Υπογραμμίζει κατηγορηματικά ότι τα συστήματα τεχνητής νοημοσύνης δεν είναι συνειδητά, αλλά εργαλεία σχεδιασμένα για την εκτέλεση εντολών και την επίτευξη στόχων που θέτουν οι άνθρωποι.
Απαιτήσεις για διαφάνεια και έλεγχο
Παρά την έντονη κριτική του, ο Suleyman διευκρινίζει ότι αναγνωρίζει τις προσπάθειες της Anthropic και του CEO της, Dario Amodei, στην κατεύθυνση της ασφαλούς ανάπτυξης προηγμένων συστημάτων. Ωστόσο, επιμένει ότι η συζήτηση για τα δικαιώματα, τη συνείδηση και την αυτονομία της τεχνητής νοημοσύνης δεν πρέπει να περιορίζεται στο εσωτερικό των τεχνολογικών εταιρειών.
Προτείνει την υιοθέτηση αυστηρότερων πλαισίων που περιλαμβάνουν:
- Μεγαλύτερη διαφάνεια στον τρόπο εκπαίδευσης και αξιολόγησης των μοντέλων.
- Ανεξάρτητο έλεγχο της συμπεριφοράς των συστημάτων.
- Ενίσχυση των εργαλείων παρακολούθησης και διαχείρισης.
Η βασική θέση του επικεφαλής της Microsoft AI είναι ότι η τεχνητή νοημοσύνη πρέπει να παραμείνει υποταγμένη στην ανθρωπότητα, διατηρώντας τα συστήματα ασφαλή και ελέγξιμα, αποφεύγοντας την εξέλιξή τους σε αυτόνομους φορείς με δικά τους συμφέροντα.
