Μη μιλάτε άσχημα στην τεχνητή νοημοσύνη μας, το απαγορεύουμε, λέει η Anthropic στους χρήστες του Claude

Η Anthropic, η εταιρεία που δημιουργεί το μοντέλο τεχνητής νοημοσύνης Claude, θα απαγορεύσει στους χρήστες τη «συνεχή και αδικαιολόγητη» καταχρηστική συμπεριφορά έναντι του μοντέλου.

Η εταιρεία επικαιροποιεί την πολιτική χρήσης της, ώστε τα εργαλεία της να μπορούν να τερματίζουν τις αλληλεπιδράσεις όταν οι χρήστες συμπεριφέρονται «σκληρά» («cruel»), κάτι που, όπως ανέφερε, είχε κάνει και στο παρελθόν σε «σπάνιες περιπτώσεις».

Η συμπεριφορά αυτή θα συμπεριληφθεί σε έναν κατάλογο απαγορευμένων συμπεριφορών, ο οποίος περιλαμβάνει επίσης τον εκφοβισμό άλλων, την προώθηση της αυτοτραυματισμού και τη δημιουργία εικόνων σεξουαλικού περιεχομένου χωρίς συναίνεση.

Αν και η Anthropic ανέφερε ότι η πολιτική θα εφαρμόζεται μόνο σε «ακραίες περιπτώσεις» επαναλαμβανόμενης κακοποίησης, έχει αναζωπυρώσει τη συζήτηση σχετικά με τον τρόπο με τον οποίο πρέπει να επικοινωνούμε με τα εργαλεία τεχνητής νοημοσύνης, αναφέρει το BBC.

Η εταιρεία δήλωσε ότι η πολιτική δεν θα ισχύει για «συνηθισμένες εκδηλώσεις απογοήτευσης των χρηστών, αντίδραση, “σκοτεινά” δημιουργικά θέματα ή δοκιμές και έρευνα μοντέλων», υπονοώντας με τον τρόπο ότι θα εφαρμόζεται μόνο σε περιπτώσεις που είναι σαφώς σκόπιμες.

Ωστόσο, συνεχίζει το BBC, παραμένει ασαφές τι θα θεωρούσε η Anthropic ως «κακοποιητική ή σκληρή συμπεριφορά» απέναντι στα μοντέλα της.

Η Anthopic ενημέρωσε τους όρους ώστε να αντιμετωπίσει νέους ή αναδυόμενους κινδύνους σε άλλους τομείς, μεταξύ άλλων απαγορεύοντας τη χρήση του Claude για «παραπλανητικές εκστρατείες». Διευκρινίζει ότι, καθώς πλησιάζουν οι ενδιάμεσες εκλογές στις ΗΠΑ, δεν μπορεί να χρησιμοποιηθεί για να «εξαπατήσει τους ψηφοφόρους ή να διαταράξει τις εκλογές».

Η πολιτική χρήση ήδη απαγορεύει τη χρήση των εργαλείων της Anthropic για την ανάπτυξη όπλων.

Ορισμένοι ειδικοί υποστηρίζουν ότι το να γράφεις ή να λες «παρακαλώ» ή «ευχαριστώ» σε εργαλεία όπως το ChatGPT είναι περιττό και σπαταλά tokens, δηλαδή τις λέξεις με τις οποίες τα μοντέλα τροφοδοτούν τα εργαλεία τεχνητής νοημοσύνης.

Άλλοι, πάντως, υποστηρίζουν ότι η ευγένεια μπορεί να οδηγήσει σε απαντήσεις ή αντιδράσεις υψηλότερης ποιότητας.

ΔΕΙΤΕ ΑΚΟΜΑ Τρομακτικά ευρήματα για την τεχνητή νοημοσύνη: Το «παραθυράκι» ασφαλείας που μπορεί να εκμεταλλευτεί ένας τρομοκράτης