Σύμφωνα με άρθρο του Reuters τέσσερις ημέρες πριν την απόλυση του διευθύνοντος συμβούλου της OpenAI Sam Altman, αρκετοί ερευνητές της εταιρείας που έφτιαξε το ChatGPT έστειλαν μια επιστολή στο διοικητικό συμβούλιο προειδοποιώντας για ανακάλυψη μιας ισχυρής τεχνητής νοημοσύνης που όπως ανέφεραν θα μπορούσε να απειλήσει την ανθρωπότητα, δήλωσαν στο Reuters δύο άτομα εξοικειωμένα με το θέμα.
Η επιστολή που δεν είχε γίνει γνωστή μέχρι χθες και ο συγκεκριμένος αλγόριθμος AI ήταν βασικές εξελίξεις πριν από την αποπομπή του Altman από το διοικητικό συμβούλιο, ανέφεραν οι δύο πηγές.
Οι ίδιες πηγές ανέφεραν την επιστολή ως έναν παράγοντα μεταξύ μιας μακρύτερης λίστας παραπόνων από το διοικητικό συμβούλιο που οδήγησαν στην απόλυση του Altman, μεταξύ των οποίων ήταν ανησυχίες σχετικά με την εμπορευματοποίηση της AI πριν από την κατανόηση των πιθανών συνεπειών αυτής της κίνησης.
Μετά από επικοινωνία του Reuters, η OpenAI, η οποία αρνήθηκε να σχολιάσει σχετικά, αλλά αποδέχτηκε την ύπαρξη ενός εσωτερικού μηνύματος προς το προσωπικό για ένα έργο που ονομάζεται Q* και μια επιστολή προς το διοικητικό συμβούλιο πριν από τα γεγονότα του Σαββατοκύριακου, δήλωσε ένας από τους ανθρώπους κοντά στο θέμα.
Κάποιοι στην OpenAI πιστεύουν ότι το Q* (προφέρεται Q-Star) θα μπορούσε να είναι μια σημαντική ανακάλυψη στην αναζήτηση της εταιρείας για αυτό που είναι γνωστό ως Τεχνητή Γενική Νοημοσύνη (AGI), δήλωσε ένας από τους ανθρώπους στο Reuters. Η OpenAI ορίζει την AGI ως αυτόνομα συστήματα που ξεπερνούν τους ανθρώπους σε σημαντικές εργασίες με οικονομικό και αντίκτυπο και όχι μόνο.
Δεδομένων των τεράστιων υπολογιστικών πόρων, το νέο μοντέλο ήταν σε θέση να λύσει ορισμένα μαθηματικά προβλήματα, δήλωσε το άτομο υπό τον όρο της ανωνυμίας, επειδή το άτομο δεν ήταν εξουσιοδοτημένο να μιλήσει εκ μέρους της εταιρείας. Αν και τα μαθηματικά ήταν επιπέδου δημοτικού, η επιτυχία σε τέτοιες δοκιμές έκανε τους ερευνητές πολύ αισιόδοξους για τη μελλοντική επιτυχία του Q*, δήλωσε η πηγή.
Οι ειδικοί θεωρούν ότι τα μαθηματικά είναι ένα σύνορο της ανάπτυξης του ChatGPT μια και επί του παρόντος, η παραγωγική τεχνητή νοημοσύνη είναι καλή στη γραφή και τη μετάφραση γλώσσας, προβλέποντας στατιστικά την επόμενη λέξη και οι απαντήσεις στην ίδια ερώτηση μπορεί να διαφέρουν ευρέως. Αλλά η κατάκτηση της ικανότητας να κάνει μαθηματικές πράξεις – όπου υπάρχει μόνο μία σωστή απάντηση – συνεπάγεται ότι η τεχνητή νοημοσύνη θα έχει μεγαλύτερες δυνατότητες συλλογισμού που μοιάζουν με την ανθρώπινη νοημοσύνη. Αυτό θα μπορούσε να εφαρμοστεί σε νέες επιστημονικές έρευνες, για παράδειγμα, πιστεύουν οι ερευνητές της τεχνητής νοημοσύνης.
Σε αντίθεση με μια αριθμομηχανή που μπορεί να λύσει περιορισμένο αριθμό λειτουργιών, η AGI μπορεί να γενικεύσει, να μάθει και να κατανοήσει.
Στην επιστολή τους προς το διοικητικό συμβούλιο, οι ερευνητές επισήμαναν τον πιθανό κίνδυνο από την εξέλιξη της τεχνητής νοημοσύνης, ανέφεραν οι πηγές χωρίς να διευκρινίζουν τις ακριβείς ανησυχίες για την ασφάλεια που σημειώνονται στην επιστολή.
Υπάρχει εδώ και καιρό συζήτηση μεταξύ των ειδικών σχετικά με τον κίνδυνο που θέτουν οι εξαιρετικά ευφυείς μηχανές, για παράδειγμα αν θα μπορούσαν να αποφασίσουν ότι η καταστροφή της ανθρωπότητας ήταν προς το συμφέρον τους.
Σε κάθε περίπτωση μετά την επιστροφή του Sam Altman σαν CEO της OpenAI και με δεδομένο την αποκάλυψη της Q-Star αναμένουμε σημαντικές εξελίξεις στο θέμα AGI.
