Προκαταλήψεις στην τεχνητή νοημοσύνη
Όταν τα δεδομένα μεταφέρουν λάθη
Ένα σύστημα μηχανικής μάθησης μαθαίνει από παραδείγματα. Αν τα παραδείγματα δεν αντιπροσωπεύουν σωστά όλους, το σύστημα θα αποδίδει χειρότερα σε ορισμένες ομάδες.
Γι' αυτό οι ερευνητές ελέγχουν τα δεδομένα, μετρούν την απόδοση ξεχωριστά για κάθε ομάδα και δημοσιεύουν τα όρια των μοντέλων τους. Η διαφάνεια και ο ανθρώπινος έλεγχος είναι βασικά εργαλεία.
Το πρόβλημα δεν είναι μόνο τεχνικό. Εξαρτάται από το ποιος συλλέγει τα δεδομένα, τι θεωρείται «σωστό» αποτέλεσμα και ποιος ελέγχει το σύστημα όταν χρησιμοποιείται σε πραγματικές αποφάσεις.
Στην Ευρώπη ο κανονισμός για την τεχνητή νοημοσύνη (AI Act) ζητά περισσότερη διαφάνεια και έλεγχο στα συστήματα υψηλού κινδύνου. Ως χρήστης, καλό είναι να ελέγχεις τα αποτελέσματα και να μη θεωρείς ότι είναι αλάνθαστα.
Διάβασε και
- Τι είναι η τεχνητή νοημοσύνη; — Μηχανές που κάνουν πράγματα που θεωρούσαμε αποκλειστικά ανθρώπινα
- Πώς μαθαίνει μια μηχανή; — Από τα παραδείγματα στα συμπεράσματα
- Νευρωνικά δίκτυα: έμπνευση από τον εγκέφαλο — Πολλές απλές μονάδες που μαζί κάνουν θαύματα
- Γλωσσικά μοντέλα: πώς «μιλούν» οι μηχανές — Η ιδέα πίσω από τα προγράμματα που γράφουν κείμενο
- Πώς λειτουργεί το διαδίκτυο; — Πακέτα, καλώδια και ένας κοινός τρόπος συνεννόησης
- Αλγόριθμοι: συνταγές για υπολογιστές — Από τον Ευκλείδη και την Ada Lovelace μέχρι τις εφαρμογές του κινητού
- Κρυπτογραφία: τα μυστικά του ψηφιακού κόσμου — Από τον κώδικα του Καίσαρα στο λουκέτο του browser
- Κβαντικοί υπολογιστές: το επόμενο βήμα; — Υπολογιστές που αξιοποιούν τους νόμους του μικρόκοσμου