Γυναίκα παραλίγο να χάσει τη ζωή της μετά από λάθος συμβουλή του ChatGPT

Εκατομμύρια άνθρωποι χρησιμοποιούν καθημερινά το ChatGPT για μικρές ή μεγάλες βοήθειες. Από emails και εργασίες μέχρι DIY και ερωτήσεις γνώσης. Όμως μια ιστορία που έγινε viral τις τελευταίες ημέρες δείχνει πόσο επικίνδυνη μπορεί να γίνει η τυφλή εμπιστοσύνη σε όσα μας λέει ένα chatbot.

Η YouTuber Kristi, γνωστή από τον λογαριασμό rawbeautybykristi, αποκάλυψε πως η καλύτερή της φίλη παραλίγο να δηλητηριαστεί θανάσιμα, ύστερα από λάθος αναγνώριση φυτού από το ChatGPT. Όπως λέει, αν δεν είχε ζητήσει δεύτερη γνώμη, το αποτέλεσμα θα μπορούσε να ήταν τραγικό.

Μια φωτογραφία που πήγε να αποβεί μοιραία

Η φίλη της Kristi έστειλε στο ChatGPT φωτογραφία ενός άγνωστου φυτού από την αυλή της και ρώτησε τι είναι. Το chatbot απάντησε με σιγουριά ότι πρόκειται για φύλλωμα καρότου, παραθέτοντας μάλιστα «χαρακτηριστικά» όπως τα λεπτά, φτερωτά φύλλα.

Το ανησυχητικό είναι ότι στη συνέχεια το ChatGPT ανέφερε ως πιθανά φυτά που μοιάζουν με καρότο ακόμη και το δηλητηριώδες κώνειο, ένα από τα πιο θανατηφόρα φυτά στον κόσμο. Όταν η φίλη ρώτησε ευθέως αν πρόκειται για δηλητηριώδες κώνειο, έλαβε επανειλημμένες διαβεβαιώσεις ότι δεν είναι.

Η Kristi εξηγεί στους ακολούθους της ότι το συγκεκριμένο φυτό είναι εξαιρετικά επικίνδυνο. Όπως λέει, «το τρως και πεθαίνεις, το αγγίζεις και μπορεί να πεθάνεις». Σύμφωνα με τις ιατρικές πηγές, το poison hemlock προκαλεί συστηματική δηλητηρίαση για την οποία δεν υπάρχει αντίδοτο.

Το σοκ με τη δεύτερη απάντηση

Ακόμη πιο ανησυχητικό ήταν ότι, αφού στάλθηκε και δεύτερη φωτογραφία, το ChatGPT επέμεινε πως δεν πρόκειται για κώνειο, υποστηρίζοντας ότι δεν φαίνονται κοίλοι βλαστοί με μωβ κηλίδες, ενώ στις εικόνες αυτά διακρίνονταν καθαρά.

Σε κάποιο σημείο, το chatbot μάλιστα υπέθεσε ότι το φυτό θα μπορούσε να βρίσκεται σε κοινόχρηστο σχολικό κήπο, άρα να είναι ακίνδυνο. Μια υπόθεση που δεν βασιζόταν σε κανένα πραγματικό στοιχείο.

Όταν η ίδια φωτογραφία μπήκε στο Google Lens, η αναγνώριση ήταν άμεση: κώνειο ασυζητητί. Το ίδιο συνέβη όταν η φίλη άνοιξε νέο παράθυρο ChatGPT στο κινητό της. Εκεί, το σύστημα την προειδοποίησε κατευθείαν ότι το φυτό είναι δηλητηριώδες.

«Αν δεν ρωτούσε εμένα, θα είχε πεθάνει»

Η Kristi ήταν ξεκάθαρη στο μήνυμά της. Όπως είπε, η φίλη της είναι ενήλικη και είχε την ψυχραιμία να ζητήσει δεύτερη γνώμη. Αν δεν το έκανε, σήμερα δεν θα ζούσε. Και κατέληξε με μια σκληρή προειδοποίηση.

Τα chatbots και τα μεγάλα γλωσσικά μοντέλα δεν είναι φίλοι μας, δεν είναι για να τα εμπιστευόμαστε τυφλά και σε καμία περίπτωση δεν πρέπει να αντικαθιστούν την ανθρώπινη κρίση, ειδικά όταν διακυβεύεται η υγεία ή η ζωή.

Το περιστατικό άνοιξε ξανά τη συζήτηση για τα όρια της τεχνητής νοημοσύνης και την ευθύνη των χρηστών. Η τεχνολογία μπορεί να βοηθήσει, αλλά όταν μετατρέπεται σε απόλυτη αυθεντία, τα λάθη της παύουν να είναι απλώς ψηφιακά.

Δείτε αυτή τη δημοσίευση στο Instagram.

Η δημοσίευση κοινοποιήθηκε από το χρήστη @RawBeautyKristi on YouTube (@rawbeautykristi)

Πηγή: gazzetta.gr/plus

ΔΕΙΤΕ ΑΚΟΜΑ Γιατί λέμε ευχαριστώ και παρακαλώ στο ChatGPT; Το ενεργειακό «κόστος» της ευγένειας