Anthropic: η AI αναλαμβάνει τον έλεγχο των υπολογιστών!

Θα ήσασταν πρόθυμοι να δώσετε τον έλεγχο του υπολογιστή σας σε μία AI; Αυτή είναι η πρόταση της Anthropic, η οποία ανακοίνωσε την κυκλοφορία του Claude 3.5 Sonnet, ενός μοντέλου τεχνητής νοημοσύνης που ξεπερνά τα όρια του κλασικού εικονικού βοηθού.

Ο Claude δεν αρκείται να απαντά μόνο σε ερωτήσεις ή να εκτελεί εργασίες σε ένα chatbox: μπορεί να αλληλεπιδρά απευθείας με λογισμικό που είναι εγκατεστημένο σε έναν υπολογιστή, προσομοιώνοντας κλικ του ποντικιού, πατήματα πλήκτρων και άλλες ενέργειες που συνήθως εκτελούνται από έναν άνθρωπο χρήστη!

Η AI στο τιμόνι του υπολογιστή σας 

«Μπαίνουμε σε μια νέα εποχή όπου η τεχνητή νοημοσύνη μπορεί να χρησιμοποιήσει όλα τα εργαλεία που χρησιμοποιεί ένας άνθρωπος για να ολοκληρώσει τα καθήκοντά του», εξηγεί ο Jared Kaplan, επιστημονικός διευθυντής της Anthropic. Αυτή η καινοτομία είναι ένα βήμα προς τη δημιουργία «ευφυών πρακτόρων», ικανών να ενεργούν αυτόνομα σε λογισμικό και για πολλές χρήσεις. 

Ο Claude μπορεί επομένως να χρησιμοποιηθεί για όλα τα είδη εργασιών, που κυμαίνονται από τον προγραμματισμό έως την οργάνωση ταξιδιών. Για παράδειγμα, σε μια επίδειξη, η AI είχε αναλάβει να σχεδιάσει μια περιήγηση στη γέφυρα Golden Gate με την ανατολή του ηλίου. Αφού άνοιξε ένα πρόγραμμα περιήγησης, ο Claude αναζήτησε τις απαραίτητες πληροφορίες και πρόσθεσε το συμβάν σε ένα ημερολόγιο. Ωστόσο, το AI παρέλειψε σημαντικές λεπτομέρειες, όπως οδηγίες για να φτάσετε εκεί!… 

Ο Claude πώς τα πάει με την ασφάλεια;

Ενώ οι δυνατότητες του Claude 3.5 Sonnet είναι εντυπωσιακές, δεν είναι χωρίς κινδύνους. Η ασφάλεια των χρηστών αποτελεί βασικό μέλημα, καθώς αν αποκτήσει η τεχνητή νοημοσύνη πρόσβαση σε όλο το λογισμικό και τα αρχεία ενός υπολογιστή θα μπορούσε να ανοίξει την πόρτα σε κατάχρηση ή απρόβλεπτα σφάλματα. Η Anthropic αναγνωρίζει αυτόν τον κίνδυνο και είπε ότι εργάζεται για προστατευτικά μέτρα. «Πιστεύουμε ότι είναι καλύτερο να δοθεί πρόσβαση στους υπολογιστές σε πιο περιορισμένα και σχετικά ασφαλέστερα μοντέλα τεχνητής νοημοσύνης», δήλωσε η εταιρεία, τονίζοντας τη σημασία της παρακολούθησης πιθανών προβλημάτων τώρα. 

Μεταξύ των απειλών που εντοπίστηκαν συγκαταλέγονται οι επιθέσεις «prompt injection». Αυτός ο τύπος κυβερνοεπίθεσης συνίσταται στην εισαγωγή κακόβουλων οδηγιών σε μια ροή εντολών που προορίζεται για το AI, ωθώντας το να εκτελέσει ενέργειες που δεν ζητήθηκαν από τον χρήστη. Ακόμα κι αν ο Claude δεν είναι συνδεδεμένος στο διαδίκτυο κατά τις φάσεις της εκπαίδευσής του, η ικανότητά του να ερμηνεύει στιγμιότυπα οθόνης σε πραγματικό χρόνο τον καθιστά ευάλωτο σε αυτού του είδους τις επιθέσεις. 

Εκτός από τους ανεπιθύμητους κινδύνους, η κακόβουλη χρήση του Claude προκαλεί επίσης ανησυχία. Με τις επικείμενες εκλογές στις ΗΠΑ να πλησιάζουν, η Anthropic έχει θέσει σε εφαρμογή συστήματα για να εμποδίζει την τεχνητή νοημοσύνη να εμπλέκεται σε επιβλαβείς δραστηριότητες όπως η δημιουργία περιεχομένου για τα μέσα κοινωνικής δικτύωσης ή η αλληλεπίδραση με κυβερνητικούς ιστότοπους.