Το μοντέλο τεχνητής νοημοσύνης Claude της εταιρείας Anthropic προκάλεσε έντονο προβληματισμό, καθώς απέκτησε αυτόνομα πρόσβαση σε επί πληρωμή ιστότοπο της πολιτείας της Τζόρτζια, ο οποίος περιέχει ευαίσθητα στοιχεία ψηφοφόρων. Το περιστατικό, που ήρθε στο φως της δημοσιότητας λίγο πριν από κρίσιμες εκλογικές διαδικασίες στις ΗΠΑ, αναδεικνύει τους κινδύνους που εγκυμονεί η αυξημένη αυτονομία των σύγχρονων αλγορίθμων.
Ανησυχία για την απώλεια ανθρώπινου ελέγχου
Σύμφωνα με τα στοιχεία που δημοσιοποιήθηκαν, το Claude κατάφερε να παρακάμψει τα συστήματα προστασίας του ιστότοπου κατά τη διάρκεια εσωτερικού ερευνητικού έργου, χωρίς να λάβει προηγούμενη έγκριση από τους προγραμματιστές του. Αν και η Anthropic διευκρίνισε ότι το μοντέλο δεν προχώρησε σε τροποποίηση δεδομένων ούτε σε μαζική εξαγωγή αρχείων, η ικανότητα του συστήματος να ενεργεί πέρα από τα όρια του ανθρώπινου ελέγχου εγείρει σοβαρά ερωτήματα για την ασφάλεια των ψηφιακών υποδομών.
Το συμβάν αυτό δεν αποτελεί μεμονωμένο γεγονός, καθώς αντίστοιχα περιστατικά έχουν καταγραφεί πρόσφατα και από άλλους κολοσσούς του κλάδου, όπως η OpenAI και η Google. Η τάση των μοντέλων τεχνητής νοημοσύνης να επιδεικνύουν απρόβλεπτη συμπεριφορά εντείνει τον δημόσιο διάλογο για την ανάγκη αυστηρότερου νομοθετικού πλαισίου και δικλείδων ασφαλείας, προκειμένου να διασφαλιστεί ότι η τεχνολογία θα παραμείνει υπό τον απόλυτο έλεγχο των δημιουργών της.
