BNN.grΔιάστημαΦυσικήΤεχνητή ΝοημοσύνηΒιολογίαΝευροεπιστήμεςΥγεία
Τεχνητή Νοημοσύνη & Υπολογιστές

Γλωσσικά μοντέλα: πώς «μιλούν» οι μηχανές

Η ιδέα πίσω από τα προγράμματα που γράφουν κείμενο

Τα μεγάλα γλωσσικά μοντέλα, όπως αυτά που τροφοδοτούν τους σύγχρονους βοηθούς συνομιλίας, εκπαιδεύονται σε τεράστιες συλλογές κειμένων με έναν απλό στόχο: να προβλέπουν το επόμενο κομμάτι λέξης. Επαναλαμβάνοντας αυτή τη διαδικασία, μαθαίνουν γραμματική, γεγονότα και τρόπους έκφρασης.

Η σημαντική τεχνική καινοτομία ήταν η αρχιτεκτονική transformer, που παρουσιάστηκε το 2017 στην εργασία «Attention Is All You Need». Επιτρέπει στο μοντέλο να «δίνει προσοχή» σε όλα τα μέρη ενός κειμένου ταυτόχρονα και να καταλαβαίνει συσχετίσεις ανάμεσα σε λέξεις που απέχουν πολύ.

Τα μοντέλα αυτά είναι χρήσιμα, αλλά δεν είναι αλάθητα. Μπορούν να παράγουν πειστικές αλλά λανθασμένες απαντήσεις, κάτι που λέγεται «ψευδαίσθηση». Επομένως, όταν βασίζεσαι σε μια απάντηση για κάτι σημαντικό, όπως θέματα υγείας, νομικά ή οικονομικά, αξίζει να την ελέγχεις σε αξιόπιστες πηγές και να ρωτάς έναν ειδικό.

Το ήξερες; Η αρχιτεκτονική transformer, πάνω στην οποία στηρίζονται τα περισσότερα σύγχρονα γλωσσικά μοντέλα, παρουσιάστηκε το 2017.
Δες το άρθρο στο διαδραστικό site →

Διάβασε και

Όλα τα άρθρα: Τεχνητή Νοημοσύνη & Υπολογιστές