«Οι προειδοποιήσεις για τους κινδύνους της Τεχνητής Νοημοσύνης από τους διαμορφωτές της – Γιατί γίνονται τώρα;»
Ένα νέο καμπανάκι κινδύνου ηχεί τις τελευταίες ημέρες για την Τεχνητή Νοημοσύνη και αυτή τη φορά έχει ιδιαίτερη σημασία ποιοι το χτυπούν. Δεν είναι κυρίως ακαδημαϊκοί, ακτιβιστές ή εξωτερικοί επικριτές της τεχνολογίας, αλλά ερευνητές, στελέχη και μεγαλοεπιχειρηματίες που βρίσκονται στην πρώτη γραμμή της ανάπτυξης των πιο προηγμένων συστημάτων AI. Όλοι αυτοί προειδοποιούν ότι η τεχνολογική κούρσα μπορεί να εξελίσσεται ταχύτερα από τους μηχανισμούς ασφαλείας και ελέγχου.
Γιατί, όμως, τώρα; Έχει φτάσει η AI σε ένα νέο επίπεδο αυτονομίας; Οι λεγόμενοι AI agents μπορούν πλέον να χρησιμοποιούν εργαλεία, να γράφουν κώδικα, να περιηγούνται στο διαδίκτυο και να εκτελούν αλληλουχίες ενεργειών με περιορισμένη ανθρώπινη επίβλεψη. Πάντως οι κίνδυνοι δεν περιορίζονται πλέον σε θεωρητικά σενάρια: έχουν ήδη καταγραφεί προσπάθειες κακόβουλης αξιοποίησης της AI για κυβερνοεπιθέσεις, κατασκοπεία και άλλες επικίνδυνες δραστηριότητες.
Ορισμένοι πάντως σχολιαστές κρίνουν πως η μετάθεση της συζήτησης σε πιθανούς μελλοντικούς κινδύνους από μια «υπερνοημοσύνη» ενδεχομένως αποπροσανατολίζει την προσοχή για καταστάσεις που ήδη συμβαίνουν: αυτές αφορούν π.χ. την απώλεια θέσεων εργασίας, την παραβίαση της ιδιωτικότητας, την κυβερνοασφάλεια, τη χρήση της AI σε οπλικά συστήματα και το μεγάλο περιβαλλοντικό κόστος των τεράστιων υποδομών που απαιτούνται.
Κι ακόμη, πέραν τούτων όλων, προκύπτει και ένα κρίσιμο γεωπολιτικό ερώτημα: μπορεί να υπάρξει «φρένο» στην ανάπτυξη της AI όταν Ηνωμένες Πολιτείες και Κίνα ανταγωνίζονται για την τεχνολογική υπεροχή;
Η Ευρωπαϊκή Ένωση επιχειρεί να θέσει κανόνες, αλλά με τις περιορισμένες δυνατότητές της, ενώ οι ίδιες οι μεγάλες εταιρείες τεχνολογίας δηλώνουν πως αναζητούν μορφές συνεργασίας για την ασφάλεια. Μπορούν, όμως, οι ανταγωνιστές να συμφωνήσουν πραγματικά σε κοινά όρια; Και ποιος θα ελέγχει τελικά εκείνους που κατασκευάζουν τα ισχυρότερα συστήματα;
Τελικά, ένα ακόμη μεγαλύτερο ερώτημα αφορά την «Γενική Τεχνητή Νοημοσύνη» (AGI) και την ενδεχόμενη «Υπερνοημοσύνη»: θα προλάβουν οι κοινωνίες, οι θεσμοί και οι κυβερνήσεις να προσαρμοστούν πριν η τεχνολογική εξέλιξη ξεπεράσει την ικανότητά τους να την ελέγξουν;
Αυτά είναι τα βασικά ερωτήματα του 80ού podcast της σειράς «Διεθνής Ματιά», με τίτλο «Οι προειδοποιήσεις για τους κινδύνους της Τεχνητής Νοημοσύνης από τους διαμορφωτές της – Γιατί γίνονται τώρα;».
Καλεσμένοι είναι ο Κώστας Καρπούζης, Αναπληρωτής Καθηγητής θεμάτων Τεχνητής Νοημοσύνης, Πολιτισμικής Πληροφορικής/Τεχνολογίας στο Τμήμα Επικοινωνίας, Μέσων & Πολιτισμού του Παντείου Πανεπιστημίου και μέλος της Εθνικής Επιτροπής Βιοηθικής και Τεχνοηθικής, και ο Μανώλης Ανδριωτάκης, δημοσιογράφος και συγγραφέας θεμάτων τεχνολογίας, από τους πρώτους στην Ελλάδα που ανέδειξαν στο ευρύτερο κοινό τα διακυβεύματα της Τεχνητής Νοημοσύνης.
Στη «Διεθνή Ματιά» κάθε βδομάδα δύο φορές (α’ ανάρτηση Σάββατα και Κυριακές στην ενότητα podcasts/ERTnews Radio), ανοίγει ένα παράθυρο ώστε να κοιτάμε από την Ελλάδα τον Κόσμο, αλλά για να επιστρέφουμε ξανά στη χώρα μας και τα δικά της ζητήματα μέσα από αυτό το γύρο και μια ευρύτερη σκοπιά. Σε κάθε podcast εξετάζεται ένα σημαντικό γεγονός, ένα φαινόμενο παγκόσμιας σημασίας, μια μεγάλη τάση από το χώρο της πολιτικής, των διεθνών σχέσεων, της οικονομίας, της οικολογίας, της επιστήμης και τεχνολογίας ή και του πολιτισμού, που επηρεάζει καθοριστικά και καθολικά τη ζωή, αλλά και την κατάσταση στη χώρα μας. Και κάθε φορά γίνεται με τη συμμετοχή ιδιαίτερα επιλεγμένων καλεσμένων, που είναι ειδικοί σε καθέναν από αυτούς τους τομείς.
Σύνταξη-παρουσίαση: Πολυδεύκης Παπαδόπουλος