Το 2024, ένας πελάτης της Air Canada ρώτησε ένα chatbot σχετικά με ναύλους παρηγοριάς. Το bot με αυτοπεποίθηση επινόησε μια πολιτική επιστροφής χρημάτων που δεν υπήρχε. Η αεροπορική εταιρεία αρνήθηκε να την τηρήσει. Ένα δικαστήριο αποφάσισε υπέρ του πελάτη. Το bot δεν είχε αποφασίσει τίποτα — είχε προβλέψει μια απάντηση βάσει μοτίβων στα δεδομένα εκπαίδευσής του. Η εταιρεία αντιμετώπισε αυτήν την πρόβλεψη ως πολιτική.

Αυτός είναι ο πραγματικός κίνδυνος σήμερα: πιθανοτικά συστήματα τυλιγμένα σε ντετερμινιστικές διεπαφές. Η ΤΝ προσφέρει μια εικασία. Η διεπαφή την παρουσιάζει ως αλήθεια. Ο χρήστης — ή χειρότερα, ο οργανισμός — ενεργεί βάσει αυτής.

Οι άνθρωποι προτιμούν τη βεβαιότητα

Είμαστε προγραμματισμένοι να πιστεύουμε ότι οι προηγούμενες ενέργειες καθορίζουν τα μελλοντικά αποτελέσματα. Στρέψτε ένα νόμισμα 999 φορές και λάβετε κεφάλι κάθε φορά: το ντετερμινιστικό μυαλό υποθέτει ότι το νόμισμα είναι πειραγμένο. Το πιθανοτικό μυαλό αποδέχεται ότι η 1000ή στροφή μπορεί ακόμα να πάει και με τους δύο τρόπους. Αυτή η δεύτερη νοοτροπία είναι πιο δύσκολο να διατηρηθεί — αλλά είναι ακριβώς αυτό που χρειάζονται οι σχεδιαστές αυτήν τη στιγμή. Τα προϊόντα λειτουργούν σε πολύπλοκα, μη γραμμικά περιβάλλοντα και η ΤΝ επιταχύνει αυτήν την πολυπλοκότητα. Όταν οι ομάδες σχεδιασμού αντιμετωπίζουν τις εξόδους της ΤΝ ως την απάντηση αντί μία από πολλές απαντήσεις, χτίζουν εύθραυστες εμπειρίες — και σε τομείς όπως η ιατρική διάγνωση ή η οικονομική πρόβλεψη, πραγματικά επικίνδυνες.

Αυτός ο οδηγός αφορά τον πιθανοτικό σχεδιασμό με την ΤΝ ως συνεργάτη. Δείχνει πώς να χρησιμοποιείτε την ΤΝ για να οξύνετε τη σκέψη σας, όχι να την εξοικειώνετε — λαμβάνοντας υπόψη την προκατάληψη του μοντέλου, το ανθρώπινο συναίσθημα και τον αντιληπτό κίνδυνο.

Πιθανοτική σκέψη + ΤΝ

Οι περισσότερες ερωτήσεις που κάνουμε στην ΤΝ δεν παράγουν δυαδικές απαντήσεις. Παράγουν πιθανότητες βάσει μοτίβων στα δεδομένα. Ρωτήστε «Υπάρχουν εξωγήινοι;» και η απάντηση βρίσκεται κάπου μεταξύ πιθανού και αβέβαιου. Οι επιστήμονες θεωρούν πιθανή τη ζωή αλλού· δεν υπάρχουν συγκεκριμένα στοιχεία. Η απάντηση δεν επιλύει το ερώτημα — το πλαισιώνει ως πιθανότητα. Οι σχεδιαστές θα πρέπει να διαβάζουν τις εξόδους της ΤΝ με τον ίδιο τρόπο: ως σήματα, όχι ως συμπεράσματα. Πιθανά αποτελέσματα που πρέπει να ερμηνευτούν εντός των στόχων του προϊόντος, της συμπεριφοράς των χρηστών και των επιχειρηματικών περιορισμών.

Πολλά ψηφιακά προϊόντα λειτουργούν ήδη έτσι. Το Netflix δεν γνωρίζει ότι θα απολαύσετε το Superstore επειδή παρακολουθήσατε το The Office — υπολογίζει την πιθανότητα και εμφανίζει τον τίτλο. Η διεπαφή ανταποκρίνεται σε μια πρόβλεψη.

Οι σχεδιαστικές αποφάσεις μπορούν να ακολουθήσουν την ίδια λογική. Τα μοντέλα ΤΝ συνδυάζουν αναλυτικά στοιχεία συμπεριφοράς με ερευνητικές γνώσεις για να εκτιμήσουν τις πιθανότητες αποτελέσματος. Αυτές οι πιθανότητες λειτουργούν ως μέτρο σύγκρισης για τη στρατηγική σχεδιασμού. Φανταστείτε ότι τα αναλυτικά στοιχεία υποδηλώνουν 60% βεβαιότητα ότι οι χρήστες θα ολοκληρώσουν μια αγορά έναντι 90% βεβαιότητας. Στο 60%, ο σχεδιασμός πρέπει να κάνει πειστική δουλειά — μαρτυρίες, συγκρίσεις, σήματα καθησυχασμού. Στο 90%, ο χρήστης είναι ήδη παρακινημένος — ο σχεδιασμός πρέπει να αφαιρέσει τριβές ώστε η ενέργεια να γίνει γρήγορα. Ίδια οθόνη, πολύ διαφορετικό σχεδιαστικό πρόβλημα.

Η ΤΝ μπορεί επίσης να προσομοιώσει αποτελέσματα προτού δεσμευτείτε σε μια κατεύθυνση — χρησιμοποιώντας ιστορικά δεδομένα και μοντέλα συμπεριφοράς. Η αξία αυτών των προσομοιώσεων εξαρτάται σε μεγάλο βαθμό από τη δομή της προτροπής, το πλαίσιο, την υπόθεση, το κίνητρο του χρήστη και τις ακραίες περιπτώσεις που θέλετε να τονιστούν.

Ακολουθεί μια πρακτική χρήση: αξιολόγηση πρώιμων σχεδίων μέσω δομημένων προτροπών, ειδικά όταν δεν μπορείτε να αποκτήσετε πρόσβαση στην ομάδα-στόχο χρηστών άμεσα. Η παρακάτω προτροπή είναι ένα σημείο εκκίνησης για την αξιολόγηση ενός σχεδίου από την οπτική γωνία νευροαποκλινόντων χρηστών. Αντιμετωπίστε την ως πρότυπο — προσαρμόστε την ομάδα χρηστών, τα κριτήρια και τη μορφή εξόδου στο προϊόν σας. Χρησιμοποιήστε την ως αφορμή για συζήτηση με την ομάδα σας, όχι ως τελική ετυμηγορία.

Αξιολογήστε το [σχέδιο ή σύνδεσμος] για ευχρηστία, προσβασιμότητα και συνάφεια περιεχομένου από την οπτική γωνία νευροαποκλινόντων χρηστών όπως εκείνοι με διαταραχή φάσματος αυτισμού, ΔΕΠΥ, μαθησιακές δυσκολίες κ.λπ. Λάβετε υπόψη: Είναι η διάταξη και η πλοήγηση διαισθητική για νευροαποκλίνοντες χρήστες; Είναι η γλώσσα και το περιεχόμενο κατάλληλα και ελκυστικά; Υπάρχουν εμπόδια — τεχνικά, γνωστικά ή αισθητηριακά — που μπορεί να αντιμετωπίσει αυτή η ομάδα; Πόσο καλύπτει ο ιστότοπος τις συγκεκριμένες ανάγκες ή στόχους τους; Παρέχετε ανάλυση SWOT, βαθμολογία πιθανότητας για επιτυχή χρήση από νευροαποκλίνοντες χρήστες και τυχόν συστάσεις για βελτίωση.

Σημείωση: Αυτό είναι μια υπεραπλούστευση. Να έχετε υπόψη σας τις περίπλοκες λεπτομέρειες του προϊόντος σας και να κάνετε τις κατάλληλες αλλαγές.

Παρ’ όλα αυτά, οι προσομοιώσεις δεν αντικαθιστούν τον πειραματισμό. Τα μοντέλα εκπαιδεύονται σε ιστορικά δεδομένα — αντικατοπτρίζουν την προηγούμενη συμπεριφορά πιο έντονα από ό,τι προβλέπουν μελλοντικές αλλαγές. Φανταστείτε να σχεδιάζετε μια φωνητική διεπαφή για ηλικιωμένους χρήστες που δυσκολεύονται με τις οθόνες αφής. Ένα μοντέλο εκπαιδευμένο σε δεδομένα κινητής αλληλεπίδρασης μπορεί να προβλέψει χαμηλή αφοσίωση — όχι επειδή η ιδέα στερείται αξίας, αλλά επειδή το σύνολο δεδομένων αντικατοπτρίζει διαφορετική συμπεριφορά χρήστη. Οι προσομοιώσεις θα πρέπει πάντα να αναδεικνύουν υποθέσεις, όχι να εμποδίζουν την καινοτομία.

Προσοχή στην στρεβλή πιθανοτική σκέψη

Τα συστήματα ΤΝ βασίζονται σε ιστορικά δεδομένα — πιο συγκεκριμένα, στα σύνολα δεδομένων στα οποία εκπαιδεύονται. Αυτή η βάση διαμορφώνει τις εξόδους που λαμβάνουμε. Κατά τη διάρκεια της Συνόδου Κορυφής για την Τεχνητή Νοημοσύνη στη Γαλλία, ο Πρωθυπουργός της Ινδίας Ναρέντρα Μόντι μοιράστηκε ένα παράδειγμα: ζητήστε από ένα μοντέλο ΤΝ να δημιουργήσει μια εικόνα ενός ατόμου που γράφει με το αριστερό χέρι — η έξοδος μπορεί να δείχνει ακόμα έναν δεξιόχειρα συγγραφέα. Ο λόγος είναι στατιστικός — οι περισσότεροι άνθρωποι είναι δεξιόχειρες και τα δεδομένα εκπαίδευσης το αντικατοπτρίζουν. Αυτό μπορεί να έχει βελτιωθεί με την πάροδο του χρόνου, αλλά το σημείο παραμένει. Ακόμα βλέπω περιστασιακά αυτήν τη συμπεριφορά όταν δημιουργώ εικόνες με παρόμοια μοντέλα.

Αυτό που λαμβάνετε δεν είναι αλήθεια. Είναι το πιο στατιστικά πιθανό αποτέλεσμα με βάση τα διαθέσιμα δεδομένα. Πάντα να ρωτάτε: Προβλέπουν ουσιαστικά τα παρελθόντα δεδομένα το μέλλον για το οποίο σχεδιάζω; Για Κυπριακές επιχειρήσεις και επιχειρήσεις της ΕΕ που λειτουργούν ηλεκτρονικό εμπόριο ή συστήματα CRM, αυτό έχει πραγματικές επιπτώσεις. Ένα μοντέλο εκπαιδευμένο σε δεδομένα συμπεριφοράς χρηστών της Δυτικής Ευρώπης μπορεί να παρερμηνεύσει τις τοπικές προτιμήσεις στη Λεμεσό, τη Λευκωσία ή σε πολυπολιτισμικές αγορές όπου η αγγλική, η ρωσική και η ελληνική γλώσσα αλληλεπικαλύπτονται. Σχεδιάστε για την πιθανότητα — αλλά επαληθεύστε έναντι των πραγματικών χρηστών σας.