Πώς η τεχνητή νοημοσύνη διευρύνει τα κενά προσβασιμότητας για τις αυτόχθονες κοινότητες

Η παγκόσμια αρένα του σχεδιασμού και της εφαρμογής της τεχνητής νοημοσύνης συνεχίζει να διαφοροποιείται, με άνθηση του ενδιαφέροντος για φιλική προς τον χρήστη παραγωγική

τεχνητή νοημοσύνη

που οδηγεί την ανάπτυξή της. Ακόμα επωάζεται: ο ρόλος της τεχνητής νοημοσύνης στην προώθηση προσπελάσιμων χώρων, τόσο στο διαδίκτυο όσο και εκτός.

Μέγκαν Βαν Χάρτεν

είναι στρατηγικός ηγέτης και συνεργάτης στο


Design de Plume


, ένα δημιουργικό πρακτορείο ιθαγενών, με επικεφαλής γυναίκες με έδρα τον Καναδά. Το επιχειρηματικό και σχεδιαστικό ήθος του Design de Plume ενσωματώνει αυτό που ο Van Harten αποκαλεί “καλειδοσκόπιο” διαφόρων παγκόσμιων φακών: Indigeneity, inclusivity, diversity, ισότητα, βιωσιμότητα και προσβασιμότητα. Η εταιρεία ξεκίνησε ακολουθώντας την πρώιμη καριέρα της Van Harten ως γραφίστας, αφού εκείνη και οι συνιδρυτές της προσπάθησαν να προσθέσουν μια προοπτική για το ψηφιακό σχέδιο που λείπει από το mainstream.

Το Design de Plume ενσωματώνει αυτές τις αρχές απευθείας στο πλαίσιο υπηρεσιών και λύσεων όπως ο σχεδιασμός ιστοτόπων, όπως η πρόσφατη εργασία του με το


Ιθαγενείς Προστατευόμενες και Διατηρούμενες Περιοχές IPCAs) Καλάθι γνώσεων


, μια πλατφόρμα ψηφιακής ανταλλαγής πληροφοριών για μονοπάτια διατήρησης υπό την ηγεσία των ιθαγενών στον Καναδά. Η εταιρεία βραβεύτηκε με το


2023 DNA Paris Design Award


για το έργο.

Στη δουλειά της ως στρατηγός και δημόσιος ομιλητής, η Van Harten παρακολουθεί εκπαιδευμένη την προσβασιμότητα των ιθαγενών, συγκεκριμένα. Ο σχεδιαστής με έδρα το Οντάριο λέει ότι ο αποκλεισμός των πολιτιστικών και γλωσσικών μοντέλων των Ιθαγενών Λαών στα πρότυπα προσβασιμότητας και τη συμμόρφωση έχει αφήσει τεράστια κενά στο να γίνουν οι επικοινωνίες προσβάσιμες για τις αυτόχθονες κοινότητες.

Και ακόμη και με την

έκρηξη

της τεχνητής νοημοσύνης που προαναγγέλλει ένα νέο κύμα λεγόμενης τεχνολογικής καινοτομίας και αυτοματισμού, το χάσμα δεν μικραίνει – στην πραγματικότητα, φαίνεται να διευρύνεται.

Ως συνεργάτες στο σχεδιασμό ψηφιακών τεχνολογιών και χώρων, η Van Harten και οι συνεργάτες της προτρέπουν περισσότερους ανθρώπους να αξιολογήσουν το σύνολο

Σύστημα

προσβασιμότητας, προκειμένου να ρωτήσουμε πώς οι υποστηρικτικές τεχνολογίες, οι υπηρεσίες Ιστού, ακόμη και τα εργαλεία που τροφοδοτούνται με τεχνητή νοημοσύνη (όπως ζωντανές μεταγραφές και δημιουργία εικόνων) μπορούν να είναι πιο σημαντικά για τις αυτόχθονες ομάδες και να περιλαμβάνουν τις ανάγκες τους.

Σε συνομιλία για αυτό το έργο και την αποστολή, ο Van Harten μίλησε στον Chase DiBenedetto του Mashable για τις αποτυχίες στη δημιουργία AI, την ανάγκη για εξελισσόμενα πρότυπα προσβασιμότητας και πώς η ενσωμάτωση των ιθαγενών προοπτικών θα πρέπει να είναι μεταξύ των πρώτων βημάτων στην τεχνολογική καινοτομία.

Mashable: Πώς φαίνεται η «ενσωμάτωση της Indigeneity» στη δουλειά σας;

Van Harten: Υπάρχει αυτή η ιδέα του “Two-eyed Seeing”, χρησιμοποιώντας τις καλύτερες δυτικές αρχές και τη γνώση των ιθαγενών ταυτόχρονα. Χρησιμοποιείτε και τα δύο σας μάτια για να ολοκληρώσετε αυτό το έργο. Αποτελεί σε μεγάλο βαθμό μέρος της κουλτούρας του Design de Plume, αλλά και της κουλτούρας του να κάνεις καλό σχεδιασμό: να παίρνεις το καλύτερο και από τους δύο κόσμους. Μου αρέσει ο όρος “Ανοιχτό Κύπελλο” ή “Άδειο Κύπελλο” — να αφήνεις τους άλλους να σε γεμίζουν με γνώση, ώστε να μπορείς να δώσεις μια καλή λύση στο τέλος της ημέρας. Αυτό δεν είναι μια νέα ιδέα. Αισθάνεται νέο για την εταιρική Αμερική, αλλά στην πραγματικότητα δεν είναι. Είναι πραγματικά θεμελιώδες για τον τρόπο γνώσης των ιθαγενών.

Για παράδειγμα, ο τρόπος με τον οποίο διεξάγουμε τις συνεδρίες αφοσίωσης με τους πελάτες μας. Πάντα μιλάμε ότι είναι περισσότερο ένας κύκλος — κανείς δεν είναι υπεύθυνος ή ο ένας πάνω από τον άλλον, κάθε φωνή πρέπει να εκπροσωπείται εξίσου — με αυτόν τον τρόπο, είμαστε σε θέση να δημιουργήσουμε ένα πιο περιεκτικό περιβάλλον και να επικεντρωθούμε σε αυτήν την ιδέα ότι είμαστε έργο – επίλυση

μαζί

. Ως πρακτορείο, δεν ερχόμαστε με τάσεις σχεδιασμού ή εργαλεία σχεδιασμού που έχουν λειτουργήσει στο παρελθόν. Αυτό μπορεί να μην ισχύει για κάθε ομάδα First Nation ή κάθε ομάδα Ιθαγενών που συναντάτε. Πρέπει να είστε πραγματικά ανοιχτοί στο να γίνετε ένας ασφαλής, ανοιχτός χώρος για τους ανθρώπους να συνεργάζονται

με

εσείς.

Έχετε διαπιστώσει ότι οι αυτόχθονες ομάδες συχνά αποκλείονται από την προσιτή σχεδίαση, ειδικά κατά την ανάπτυξη νέων εργαλείων AI.

Όσον αφορά το AI, ήταν πραγματικά εξαιρετικά δύσκολο. Υπάρχει τόσο μεγάλη προκατάληψη στην τεχνολογία, στον τρόπο που αναπτύσσεται. Δεν ζητείται η γνώμη των ιθαγενών όταν πρόκειται για λύσεις. Αυτό που εννοώ με αυτό είναι ότι αν τους φέρουν, εισάγονται στο τέλος του έργου και τους ρωτάνε: “Περνάει αυτό;” Δεν είναι καλή δέσμευση. Πρέπει να εμπλέξετε αυτούς τους ανθρώπους από την αρχή, να τους εξηγήσετε το πρόβλημα, να τους εμπλέξετε στην επίλυση προβλημάτων και να τους αποζημιώσετε για αυτές τις προσπάθειες. Μερικές από τις δυσκολίες με τους υπότιτλους, για παράδειγμα, όπως η αυτόματη αναγνώριση ομιλίας, ήταν εξαιρετικά δύσκολες.

Μπορείτε να εξηγήσετε πώς οι ζωντανοί υπότιτλοι ή η αυτόματη αναγνώριση ομιλίας γενικότερα αποτυγχάνει σε αυτές τις κοινότητες;

Για παράδειγμα, μόλις κατέβασα μια μεταγραφή μιας ζωντανής παρουσίασης που έκανα και άλλαξε μια λέξη από “Anishinaabe”, που είναι

μια μεγάλη ομάδα Ιθαγενών

, στον «Τίμιο Νάμπι». Έτσι παραμόρφωσε τη γλώσσα εντελώς. Ανέφερα μια ομάδα ανθρώπων και δεν μπορούσε καν να το καταλάβει αυτό. Ακόμα κι αν υπάρχει μια απευθείας αγγλική μετάφραση… ο τρόπος με τον οποίο λειτουργούν οι αυτόχθονες γλώσσες είναι ότι είναι εξαιρετικά σκόπιμες, κάθε γράμμα και συνδυασμός γραμμάτων έχει υποσημασίες. Υπάρχουν τόσες πολλές σκόπιμες αποχρώσεις σε αυτή τη συγκεκριμένη λέξη που χάνονται, ειδικά σε περίπτωση ζωντανής λεζάντας.

[In a recent Mashable

article

about 3PlayMedia’s 2023 State of Automatic Speech Recognition report, the accessibility services company

]

είπε ότι η αυτόματη αναγνώριση ομιλίας είναι περίπου 90 τοις εκατό ακριβής, αλλά πρέπει να είναι περισσότερο σαν 99 τοις εκατό. Αλλά όταν πρόκειται για τις αυτόχθονες γλώσσες, είναι κυριολεκτικά 0 τοις εκατό ακριβές. Αυτή είναι η σκληρή πραγματικότητα στην οποία ζούμε. Ο τρόπος με τον οποίο χτίζουμε την τεχνολογία, τα συστήματα σχεδιασμού, όλα αυτά τα πράγματα, συμβάλλει σε μια κουλτούρα περαιτέρω [cultural] γενοκτονία και διαγραφή γλωσσών.

Είναι μια λύση η έννοια του καθολικού σχεδιασμού ή η ιδέα ότι τα

προϊόντα

και οι χώροι πρέπει να δημιουργηθούν με γνώμονα την πλήρη προσβασιμότητα από την αρχή;

Υπάρχουν τόσα πολλά όσον αφορά την ανάπτυξη προτύπων, τους νόμους συμμόρφωσης, κ.λπ. Αλλά το θεμέλιο δεν υπάρχει για τους αυτόχθονες πληθυσμούς. Στον χώρο προσβασιμότητας, οι άνθρωποι αναφέρουν αρκετά συχνά ότι η συμμόρφωση της ADA (ή, από όπου κατάγομαι, η


AODA


) είναι το ισόγειο, όχι το ταβάνι. Για τους ιθαγενείς, είναι απλώς ένα ευρέως ανοιχτό χάσμα. Απλώς πέφτουν σε αυτή τη δίνη. Δεν υπάρχουν συστήματα για προσβάσιμη γλώσσα στις γλώσσες τους και δεν υπάρχει τρόπος να αναπτυχθούν εργαλεία που να βασίζονται σε δύο γλώσσες ταυτόχρονα.

Αυτό που είναι τόσο απογοητευτικό είναι ότι έχουμε τις ιδέες εκεί. Τα εργαλεία είναι καλά, κατά κάποιο τρόπο. Είναι καλό που έχουμε λεζάντες. Είναι τρομερό που δεν μπορεί να καταλάβει, όπως το λέω στο σύστημα, τι προσπαθώ πραγματικά να πω.

Πιστεύω ότι με την άνοδο της γενετικής τεχνητής νοημοσύνης και τις επενδύσεις που έγιναν για τη συνεχή καινοτομία της, αυτό το πρόβλημα θα έπρεπε να είχε εξεταστεί μέχρι τώρα.

Απολύτως. Γιατί δεν μπορώ να μιλήσω με το AI εκ των προτέρων; Αν πρόκειται να παρουσιάσω σε αυτή τη γλώσσα, επιτρέψτε μου να σας μάθω πώς να το λέτε. Αλλά δεν μπορώ να το κάνω αυτό. Αυτήν τη στιγμή η καλύτερη λύση είναι οι ζωντανές μεταγραφές και οι ζωντανές μεταγραφές [human] λεζάντα. Αυτό είναι υπέροχο, αλλά πολλοί οργανισμοί δεν έχουν τη χρηματοδότηση για να μπορούν να προσφέρουν ζωντανούς υπότιτλους. Η προειδοποίηση λοιπόν που πρέπει να τους δώσω είναι ότι το [automatic] οι λεζάντες δεν θα έχουν νόημα.

Υπάρχει δομικός λόγος για αυτή την πλήρη αποσύνδεση;

Υπάρχει πραγματικά μεγάλη εστίαση στη μονόγλωσση υποστήριξη προσβασιμότητας, επομένως έχετε ένα έγγραφο στα Αγγλικά ή ένα έγγραφο στα Γαλλικά και θα σας το διαβάσει στα Αγγλικά ή στα Γαλλικά. Τι συμβαίνει όμως στους κύκλους των αυτόχθονων γλωσσών όπου, μέσω της γενοκτονίας και των διακρίσεων, μέρος της γλώσσας έχει χαθεί; Ακόμα κι αν αναπτύξετε ένα σύστημα και πείτε, “Μπορούμε τώρα να διαβάσουμε αυτήν τη σελίδα πλήρως στα Αγγλικά και αυτήν τη σελίδα σε αυτήν την άλλη γλώσσα των ιθαγενών”, ενδέχεται να χάσετε εντελώς την ιδέα, επειδή δεν υπάρχει καλός τρόπος να ενσωματώσετε και τις δύο γλώσσες στο ίδιο έγγραφο. Δεν υπάρχει τρόπος να γίνει αυτό σε οποιαδήποτε τεχνολογία προσβασιμότητας αυτή τη στιγμή, επειδή η εστίαση είναι σε έναν δυτικό τρόπο σκέψης, που είναι ότι όλα είναι ξεχωριστά.

Βρήκατε αυτό το πρόβλημα με την εστίαση σε άλλες δημοφιλείς περιπτώσεις χρήσης AI, όπως η δημιουργία εικόνων ή τα

chatbots

;

Το λογισμικό δημιουργίας εικόνας ήταν τόσο ενδιαφέρον στο χώρο του σχεδιασμού. Ακούτε πολλά για αυτό το πράγμα που μπορεί να “Photoshop αυτό τόσο καλά. Φαίνεται τόσο καλό.” Αλλά είναι καθαρή ανοησία, ειδικά όταν πρόκειται για την εκπροσώπηση του πολιτισμού και των αρχών των ιθαγενών.

Έχετε κάποιο παράδειγμα;

Σε αρκετούς πολιτισμούς των Πρώτων Εθνών στον Καναδά, έχουμε κάτι που ονομάζεται το


Τροχός ιατρικής


. Υπάρχει πολύ νόημα σε αυτό το σύμβολο και προορίζεται να είναι ένα θεραπευτικό εργαλείο. Χρησιμοποίησα λογισμικό δημιουργίας εικόνων και ζήτησα “Indigenous medicine wheel.” Αυτό είναι. Αυτή είναι η προτροπή μου. Δεν είναι περίπλοκο. Εάν το βάλετε στο Google, θα αποκτήσετε έναν νόμιμο Τροχό Ιατρικής.

Αλλά αυτό που επιστρέφει από το λογισμικό δημιουργίας εικόνων είναι κυριολεκτικά σκουπίδια. Έχω δει εκείνα όπου είναι ένα πιάτο, με πολλά διαφορετικά κομμάτια στο πιάτο. Σκέφτηκα ότι ίσως το ερμήνευε ως φαγητό. Το φαγητό μπορεί να είναι φάρμακο, σωστά; Το φαγητό μπορεί να είναι θεραπευτικό. Αλλά όταν έκανα μεγέθυνση στην εικόνα, είπα: “Αυτά είναι κοχύλια σαλιγκαριών. Και αυτό είναι ένα τσιγάρο.” Απλώς τυχαία κομμάτια υφής που έχει τραβήξει για να την κάνει μια «δροσερή» εικόνα, αλλά ουσιαστικά έχασε την πρόθεση και τις πολιτιστικές αρχές των ιθαγενών.

Το έχω δει επίσης για εργαλεία δημιουργίας εναλλακτικού κειμένου… Νομίζω ότι θα ήταν πραγματικά προσιτό για τους ανθρώπους εάν μπορούσαν να χρησιμοποιήσουν πράγματα όπως γεννήτριες εναλλακτικού κειμένου, για να έχουν τουλάχιστον μια καλή βάση εκκίνησης. Αλλά δεν μπορείτε να έχετε αυτή τη βάση εκκίνησης εάν δεν υπάρχει βάση για πρόθεση και συμπερίληψη.

Ανησυχώ λοιπόν ότι η τεχνητή νοημοσύνη έρχεται για τη δουλειά μου; Οχι, καθόλου.

Φαίνεται ότι παράλληλα με αυτή τη ζέση για καινοτομία τεχνητής νοημοσύνης, υπάρχει και αυτή η ταυτόχρονη κουλτούρα φόβου που δημιουργείται γύρω από τις δυνατότητες της τεχνητής νοημοσύνης.

Αν λέμε ότι η τεχνητή νοημοσύνη δημιουργεί μια κουλτούρα φόβου, δημιουργεί αυτή την κουλτούρα φόβου επειδή δεν αντιπροσωπεύει ανθρώπους.

Μιλάτε για να φτάσετε σε ένα μέρος όπου ένας βοηθός AI «καταλαβαίνει» πλήρως τις γλώσσες ή τον πολιτισμό των ιθαγενών ενώ παρέχει μια υπηρεσία. Τι συνεπάγεται αυτό;

Νομίζω ότι η κατανόηση είναι μια ικανότητα συνεργασίας. Ένα από τα πράγματα που είναι πραγματικά ενδιαφέρον για την τεχνητή νοημοσύνη τώρα είναι να μπορείς να συνομιλείς μαζί της, να τη βοηθάς και να την αναπτύσσεις. Επομένως, το να έχετε αυτό το εργαλείο άμεσα διαθέσιμο σε περισσότερα συστήματα θα βοηθούσε στην κατανόηση. Θα μπορούσατε να το πείτε, “Γεια, αυτό που λέτε είναι πραγματικά επιβλαβές και διαιωνίζει ένα στερεότυπο. Θα πρέπει να σταματήσουμε να το λέμε αυτό.” Θα ήθελα πολύ να το δω να εφαρμόζεται ευρύτερα σε αυτά τα συστήματα.

Αλλά επίσης, προτού κυκλοφορήσετε ένα προϊόν και περιμένετε απλώς ο κόσμος να το φτιάξει για εσάς αλληλεπιδρώντας μαζί του, εμπλέξτε άτομα στα αρχικά στάδια του για να το επηρεάσετε. Συμμετάσχετε ένα διαφορετικό σύνολο ανθρώπων για να βοηθήσετε να μιλήσετε με αυτό το AI, ώστε να μπορεί να καταλάβει ότι υπάρχουν πολλά σκουπίδια στο Διαδίκτυο που πρόκειται να μαζέψει ή ότι οι άνθρωποι θα το τροφοδοτήσουν.

Στην πραγματικότητα, θα μπορούσε ποτέ να υπάρξει ένα πλήρως περιεκτικό και ολοκληρωμένο εργαλείο σαν αυτό; Ή είναι κάτι που δεν πρέπει να εγκαταλείψουμε την τεχνολογία ή τις υπηρεσίες που βασίζονται στην τεχνητή νοημοσύνη; Αρκούν οι λύσεις που χρησιμοποιούνται για τον άνθρωπο;

Νομίζω ότι αν δημιουργήσετε την τεχνολογία με έναν πιο περιεκτικό τρόπο και είστε πρόθυμοι να ακολουθήσετε επίσης μια καταστροφική πορεία προς τα εμπρός και να ξανασκεφτείτε τον τρόπο που την προσεγγίσατε πριν, είναι πιθανό.

Ένας από τους σημαντικότερους τομείς για τους οποίους πρέπει να μιλήσουν – ως κυβέρνηση, ή ως εταιρείες, ή ως αυτά τα μεγάλα θηρία της τεχνολογίας – είναι ποιον είναι διατεθειμένοι να αποκλείσουν; Αυτόχθονες είναι [one of] ο


τους ταχύτερα αναπτυσσόμενους πληθυσμούς


στη Βόρεια Αμερική. Έτσι, με το να μην αναπτύσσουμε αυτά τα εργαλεία κατά νου, για την ιθαγένεια και την ένταξη, αφήνουμε έξω αυτήν την τεράστια ομάδα ανθρώπων. Δεν εναπόκειται στους ιθαγενείς να λύσουν κάθε πρόβλημα. Είναι στους ανθρώπους που έχουν τα κεφάλαια για να το πραγματοποιήσουν και να είναι πρόθυμοι να επανεξετάσουν τις διαδικασίες τους για να προχωρήσουν με καλό τρόπο.

Ένας υπολογιστής δεν μπορεί να προσποιηθεί την ενσυναίσθηση. Δεν μπορεί να καταλάβει την ενσυναίσθηση. Και το ίδιο πράγμα ισχύει και για τους ανθρώπους. Εάν δεν έχουν ενσυναίσθηση, τότε δεν θα καταλάβουν γιατί αυτό έχει νόημα, γιατί μιλάμε για αυτό το συγκεκριμένο θέμα. Αλλά αυτό το ανθρώπινο επίπεδο ενσυναίσθησης είναι το πώς θα το αντιμετωπίσουμε στην πραγματικότητα και πώς θα το λύσουμε.