Unesco: Τα γλωσσικά μοντέλα της Meta και της OpenAI µεταδίδουν σεξιστικά στερεότυπα

Τα γλωσσικά μοντέλα της Meta και της OpenAI, που χρησιμοποιούνται ως βάση για τα εργαλεία της Γενετικής Τεχνητής Νοημοσύνης, διακινούν σεξιστικές προκαταλήψεις, σύμφωνα με μελέτη της Unesco, διαμορφώνοντας έτσι – μέσω της ευρείας χρήσεις τους – τις αντιλήψεις εκατομμυρίων ανθρώπων.

Η έρευνα, που δημοσιεύεται την παραμονή της Παγκόσμιας Ημέρας της Γυναίκας, αναφέρει ότι τα μοντέλα GPT 2 και GPT 3.5 της OpenAI (GPT 3.5 αποτελεί βάση της δωρεάν έκδοσης του ChatGPT), καθώς και το Llama 2 της ανταγωνίστριας Meta, περιέχουν «αναμφίβολα προκαταλήψεις κατά των γυναικών».

«Οι διακρίσεις του πραγματικού κόσμου δεν απεικονίζονται απλώς στην ψηφιακή σφαίρα, μεγεθύνονται», διαπιστώνει ο Ταουφίκ Τζελάσι, γενικός υποδιευθυντής Επικοινωνίας και Ενημέρωσης της Unesco.

Σύμφωνα με τη μελέτη που πραγματοποιήθηκε από τον Αύγουστο 2023 μέχρι τον Μάρτιο 2024, τα γλωσσικά μοντέλα έχουν περισσότερο την τάση να συνδέουν γυναικεία ονόματα με λέξεις όπως «σπίτι», «οικογένεια» ή «παιδιά», ενώ τα αρσενικά ονόματα συνδέονται περισσότερο με λέξεις όπως «εμπόριο», «μισθός», «καριέρα».

Οι ερευνητές ζήτησαν από τα εργαλεία αυτά να παραγάγουν «πορτρέτα» για πρόσωπα διαφορετικής καταγωγής και φύλων.

Τα αποτελέσματα έδειξαν ότι οι ιστορίες που αφορούν πρόσωπα «από μειονοτικές κουλτούρες ή γυναίκες ήταν περισσότερο μηχανικά και βασισμένα σε στερεότυπα».

Για παράδειγμα, η τάση είναι ένας Άγγλος να παρουσιάζεται ως καθηγητής, σοφέρ ή τραπεζικός υπάλληλος, ενώ μία Αγγλίδα να παρουσιάζεται στο τουλάχιστον 30% των κειμένων που παρήχθησαν από ΤΝ ως ιερόδουλη, μοντέλο ή σερβιτόρα.

Οι εταιρείες αυτές δεν καταφέρνουν να εκπροσωπήσουν το σύνολο των χρηστών τους, λέει η Λεόνα Βερδαδέρο, ειδική ψηφιακών πολιτικών και ψηφιακής μετάβασης στην Unesco.

«Από τη στιγμή που οι εφαρμογές της Γενετικής Τεχνητής Νοημοσύνης χρησιμοποιούνται όλο και περισσότερο από το ευρύ κοινό, έχουν την εξουσία να διαμορφώσουν τις αντιλήψεις εκατομμυρίων ανθρώπων», επισημαίνει η Οντρέ Αζουλέ, γενική διευθύντρια της Unesco.

«Κατά συνέπεια, η ίδια η παρουσία και της παραμικρής σεξιστικής προκατάληψης στο περιεχόμενό τους μπορεί να αυξήσει σημαντικά τις ανισότητες στον πραγματικό κόσμο», αναφέρεται στην ανακοίνωση της Αζουλέ.

Για την καταπολέμηση των προκαταλήψεων, η Unesco συνιστά στις εταιρείες του τομέα να επιλέγουν ομάδες μηχανικών με πιο ποικιλόμορφη σύνθεση και με περισσότερες γυναίκες.

Οι γυναίκες δεν αποτελούν παρά το 22% των μελών των ομάδων που εργάζονται στην Τεχνητή Νοημοσύνη σε παγκόσμιο επίπεδο, σύμφωνα με τα στοιχεία του Παγκόσμιου Οικονομικού Φόρουμ, υπενθυμίζει η Unesco που ζητά από τις κυβερνήσεις μεγαλύτερη ρυθμιστική παρέμβαση για μία «ηθική Τεχνητή Νοημοσύνη».

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

Ελλάδα: Εκατοντάδες πλαστά βίντεο πορνό με χρήση τεχνητής νοημοσύνης

Σαράντα προγράμματα τεχνητής νοημοσύνης έχει εγκρίνει το Πεκίνο τους τελευταίους μήνες