BNN.grΔιάστημαΦυσικήΤεχνητή ΝοημοσύνηΒιολογίαΝευροεπιστήμεςΥγεία
Τεχνητή Νοημοσύνη & Υπολογιστές

Προκαταλήψεις στην τεχνητή νοημοσύνη

Όταν τα δεδομένα μεταφέρουν λάθη

Ένα σύστημα μηχανικής μάθησης μαθαίνει από παραδείγματα. Αν τα παραδείγματα δεν αντιπροσωπεύουν σωστά όλους, το σύστημα θα αποδίδει χειρότερα σε ορισμένες ομάδες.

Γι' αυτό οι ερευνητές ελέγχουν τα δεδομένα, μετρούν την απόδοση ξεχωριστά για κάθε ομάδα και δημοσιεύουν τα όρια των μοντέλων τους. Η διαφάνεια και ο ανθρώπινος έλεγχος είναι βασικά εργαλεία.

Το πρόβλημα δεν είναι μόνο τεχνικό. Εξαρτάται από το ποιος συλλέγει τα δεδομένα, τι θεωρείται «σωστό» αποτέλεσμα και ποιος ελέγχει το σύστημα όταν χρησιμοποιείται σε πραγματικές αποφάσεις.

Στην Ευρώπη ο κανονισμός για την τεχνητή νοημοσύνη (AI Act) ζητά περισσότερη διαφάνεια και έλεγχο στα συστήματα υψηλού κινδύνου. Ως χρήστης, καλό είναι να ελέγχεις τα αποτελέσματα και να μη θεωρείς ότι είναι αλάνθαστα.

Το ήξερες; Πολλά ερευνητικά ιδρύματα δημοσιεύουν «κάρτες μοντέλου» με τα όρια και τη χρήση κάθε συστήματος.
Δες το άρθρο στο διαδραστικό site →

Διάβασε και

Όλα τα άρθρα: Τεχνητή Νοημοσύνη & Υπολογιστές