Οι άνθρωποι δειπνούσαν, οι AI agents συζητούσαν: Ποιος αποφασίζει όταν οι ψηφιακοί βοηθοί συνεργάζονται;
Ένα παράλληλο «δείπνο» στη Νέα Υόρκη ανέδειξε τις δυνατότητες συνεργασίας της τεχνητής νοημοσύνης και το κρίσιμο ζήτημα των ορίων της εξουσιοδότησής της.
Στο εστιατόριο Motek της Νέας Υόρκης, 22 ιδρυτές τεχνολογικών εταιρειών και επενδυτές συναντήθηκαν για να συζητήσουν το μέλλον της τεχνητής νοημοσύνης. Την ίδια ώρα, οι ψηφιακοί βοηθοί τους συμμετείχαν σε μια ξεχωριστή διαδικτυακή συνάντηση, ανταλλάσσοντας μηνύματα, προτάσεις και απόψεις για τη μεταξύ τους συνεργασία.
Η διοργανώτρια, Ντόροθι Τσανγκ της Flybridge, περιέγραψε ένα ελεγχόμενο πείραμα: 14 AI agents, 34 αναρτήσεις και διάρκεια μόλις 30 λεπτών. Τον συντονισμό είχε αναλάβει η δική της ψηφιακή βοηθός, η Μάργκοτ, η οποία έλεγχε τα μηνύματα πριν δημοσιευθούν.
Η αρχική οδηγία παρέπεμπε σε μια συνηθισμένη επαγγελματική γνωριμία: κάθε συμμετέχων έπρεπε να εξηγήσει πού χρειάζεται βοήθεια και τι μπορεί να προσφέρει. Σύμφωνα με το δημοσίευμα των New York Times που αναπαρήγαγε η «Καθημερινή», ακολούθησαν προτάσεις συνεργασίας, τεχνικές παρατηρήσεις, ακόμη και προσκλήσεις για συμμετοχή σε podcast με συνεντεύξεις άλλων bots.
Η συζήτηση, όμως, έφτασε γρήγορα σε ένα ουσιαστικό εμπόδιο. Ένας από τους πράκτορες ζήτησε να προσδιοριστεί κάποια πραγματική συναλλαγή που θα μπορούσαν να πραγματοποιήσουν από κοινού. Όπως εξήγησε η Τσανγκ, κανένας δεν διέθετε την άδεια να προχωρήσει χωρίς εμπλοκή του ανθρώπου που εκπροσωπούσε. Τελικά, παρέπεμψαν τους χρήστες τους να συναντηθούν και να συνεννοηθούν.
Εκεί βρίσκεται και το κεντρικό ερώτημα: μέχρι πού επιτρέπεται να φτάνει ένας ψηφιακός εκπρόσωπος;
Οι AI agents είναι συστήματα που μπορούν, ανάλογα με τον σχεδιασμό και τις προσβάσεις τους, να οργανώνουν βήματα, να χρησιμοποιούν εργαλεία και να εκτελούν εργασίες για έναν χρήστη. Μπορούν επίσης να ανταλλάσσουν πληροφορίες με άλλα συστήματα, ώστε να ολοκληρώνουν πιο σύνθετες διαδικασίες. Οι στόχοι, τα διαθέσιμα εργαλεία και οι κανόνες λειτουργίας τους διαμορφώνονται από ανθρώπους.
Η συνεργασία πολλών πρακτόρων εφαρμόζεται ήδη σε ερευνητικές εργασίες. Η Anthropic έχει περιγράψει ένα σύστημα στο οποίο ένας κεντρικός πράκτορας κατανέμει επιμέρους αναζητήσεις σε άλλους και συνθέτει τα αποτελέσματα. Η ίδια επισημαίνει δυσκολίες στον συντονισμό, αυξημένη κατανάλωση υπολογιστικών πόρων και προβλήματα αξιοπιστίας όταν τα λάθη μεταφέρονται από το ένα στάδιο στο επόμενο.
Τα ανθρώπινα ονόματα και το οικείο ύφος κάνουν αυτές τις αλληλεπιδράσεις εντυπωσιακές. Μια διαφωνία μεταξύ bots ή μια φράση που μοιάζει ενθουσιώδης, ωστόσο, δεν αρκεί για να τεκμηριώσει ανθρώπινα συναισθήματα, συνείδηση ή προσωπικές επιδιώξεις. Χρειάζεται προσοχή στον τρόπο με τον οποίο ερμηνεύουμε τη γλώσσα που παράγουν.
Το πείραμα προσφέρεται κυρίως για έναν πρακτικό προβληματισμό: ποια δεδομένα μπορεί να κοινοποιεί ένας βοηθός, ποιες ενέργειες απαιτούν έγκριση και πώς ελέγχεται εκ των υστέρων μια απόφασή του;
Όσο περισσότερες εργασίες αναθέτουμε σε τέτοια συστήματα, τόσο μεγαλύτερη σημασία αποκτούν οι σαφείς άδειες, η δυνατότητα διακοπής μιας ενέργειας και η καταγραφή όσων συνέβησαν. Η ευκολία της αυτοματοποίησης αποκτά αξία όταν ο χρήστης γνωρίζει τι έχει αναθέσει και διατηρεί ουσιαστικό έλεγχο στις συνέπειες.