Η OpenAI χρηματοδοτεί έρευνα για τη δημιουργία αλγορίθμων που μπορούν να προβλέψουν τις ηθικές κρίσεις των ανθρώπων. Μέσω επιχορήγησης προς το Πανεπιστήμιο Duke, η έρευνα με τίτλο Research AI Morality στοχεύει να εξετάσει πώς οι αλγόριθμοι μπορούν να προβλέπουν ηθικές αποφάσεις σε τομείς όπως η ιατρική, το δίκαιο και οι επιχειρήσεις. Η επιχορήγηση λήγει το 2025.
Η μελέτη, υπό την καθοδήγηση του καθηγητή ηθικής Walter Sinnott-Armstrong και της συνεργάτιδάς του Jana Borg, βασίζεται σε προηγούμενες έρευνές τους που εξετάζουν τη δυνατότητα της Τεχνητής Νοημοσύνης (ΤΝ) να λειτουργεί ως «ηθικό GPS». Παλιότερα έργα τους περιλαμβάνουν αλγορίθμους για δύσκολες αποφάσεις, όπως η κατανομή δωρεών οργάνων, και τη διερεύνηση του κατά πόσο οι άνθρωποι προτιμούν η ΤΝ να λαμβάνει ηθικές αποφάσεις.
Ωστόσο, η πρόβλεψη ηθικών κρίσεων είναι περίπλοκη, καθώς η Ηθική δεν έχει οικουμενικά αποδεκτούς κανόνες. Επίσης, οι αλγόριθμοι ΤΝ λειτουργούν ως «στατιστικές μηχανές», βασιζόμενοι σε δεδομένα που αντικατοπτρίζουν δυτικές και μορφωμένες απόψεις, γεγονός που περιορίζει την αμεροληψία τους. Προκαταλήψεις ή η απουσία δεδομένων από μη αντιπροσωπευτικές κοινότητες ενισχύουν το πρόβλημα.
Η εγγενής πολυπλοκότητα της Ηθικής και οι διαφορετικές προσεγγίσεις, όπως ο καντιανισμός (ηθικοί κανόνες) και ο ωφελιμισμός (το μεγαλύτερο καλό για περισσότερους), καθιστούν δύσκολη την ανάπτυξη ενός αλγόριθμου που να αντικατοπτρίζει τις πολυδιάστατες ανθρώπινες αξίες.
