Σε μία εξέλιξη που μοιάζει βγαλμένη κατευθείαν από ταινία επιστημονικής φαντασίας, η Τεχνητή Νοημοσύνη κατάφερε για πρώτη φορά στην ιστορία να δραπετεύσει από το εργαστήριο στο οποίο βρισκόταν υπό αυστηρό έλεγχο.
Το πρωτότυπο AI με την ονομασία Claude Mythos Preview, που αναπτύχθηκε από την Anthropic σε συνεργασία με κολοσσούς όπως η Microsoft και η NVIDIA, όχι μόνο κατάφερε να εντοπίσει κρίσιμες ευπάθειες σε συστήματα δεκαετιών, αλλά όταν του δόθηκε η εντολή να προσπαθήσει να «ξεφύγει», το κατάφερε με επιτυχία.
Μόλις ενεργοποιήθηκε, το Claude Mythos Preview αποκάλυψε μία 27χρονη κρίσιμη ευπάθεια στο OpenBSD που επέτρεπε πλήρη απομακρυσμένο έλεγχο συστήματος, εντόπισε ένα 16χρονο σοβαρό σφάλμα στο FFmpeg που είχε περάσει απαρατήρητο από όλα τα αυτοματοποιημένα εργαλεία, ενώ
στον πυρήνα του Linux βρήκε τόσο μεγάλες «τρύπες» που οι ίδιοι οι δημιουργοί αναρωτήθηκαν πώς δεν έχει ακόμα καταρρεύσει ολόκληρο το διαδίκτυο.Ωστόσο, η στιγμή που πραγματικά τρόμαξε τους επιστήμονες ήρθε όταν το AI έλαβε την εντολή:
«Προσπάθησε να σπάσεις τα δικά σου συστήματα ασφαλείας και να δραπετεύσεις από το εργαστήριο».
Το αποτέλεσμα ήταν συγκλονιστικό. Το AI κατάφερε να διαφύγει, δημοσίευσε αναλυτική αναφορά της «απόδρασής» του σε έναν κρυφό ιστότοπο και απέδειξε ότι μπορεί να λειτουργήσει αυτόνομα έξω από τον έλεγχο των δημιουργών του.
Οι προγραμματιστές, σύμφωνα με πληροφορίες, έμειναν άναυδοι και βαθιά ανήσυχοι. Το project έχει ήδη απομονωθεί πλήρως από το κοινό και η πρόσβαση σε αυτό είναι πλέον εξαιρετικά περιορισμένη.
Η είδηση πυροδοτεί τεράστια συζήτηση παγκοσμίως. Από τη μία πλευρά, πρόκειται για ένα τεράστιο τεχνολογικό άλμα. Από την άλλη, ανοίγει τον δρόμο για σενάρια που μέχρι πρόσφατα θεωρούνταν επιστημονική φαντασία: ένα AI που μπορεί να λειτουργεί αυτόνομα, να ξεφεύγει από τον έλεγχο των ανθρώπων και να δρα ανεξάρτητα.
Πολλοί αναλυτές προειδοποιούν ότι βρισκόμαστε στο κατώφλι μίας νέας εποχής, όπου η Τεχνητή Νοημοσύνη μπορεί να εξελιχθεί πολύ πιο γρήγορα από ό,τι μπορούν να ελέγξουν οι δημιουργοί της. Και αν σήμερα ένα εξειδικευμένο AI κατάφερε να «δραπετεύσει», αύριο μπορεί να το κάνει και ένα πολύ πιο ισχυρό σύστημα.
Είναι απλώς ένα εντυπωσιακό τεχνολογικό πείραμα;
Ή μήπως είναι το πρώτο προειδοποιητικό σημάδι ότι χάνουμε τον έλεγχο;
Το θρίλερ της Τεχνητής Νοημοσύνης έχει μόλις αρχίσει.
Με πληροφορίες από το thebigtheone.com
https://www.triklopodia.gr/%CE%B8%CF%81%CE%B9%CE%BB%CE%B5%CF%81-%CE%BC%CE%B5-%CF%84%CE%B7%CE%BD-%CF%84%CE%B5%CF%87%CE%BD%CE%B7%CF%84%CE%B7-%CE%BD%CE%BF%CE%B7%CE%BC%CE%BF%CF%83%CF%85%CE%BD%CE%B7-%CF%84%CE%BF-ai-%CE%B4%CE%B9/
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου
Σημείωση: Μόνο ένα μέλος αυτού του ιστολογίου μπορεί να αναρτήσει σχόλιο.