Η Συνέλευση της Πολιτείας της Καλιφόρνιας έκανε ένα μεγάλο βήμα προς τη ρύθμιση της τεχνητής νοημοσύνης την Τετάρτη το βράδυ, εγκρίνοντας το SB 243 — ένα νομοσχέδιο που ρυθμίζει τα chatbot συνομιλίας με τεχνητή νοημοσύνη για την προστασία ανηλίκων και ευάλωτων χρηστών. Η νομοθεσία εγκρίθηκε με διακομματική υποστήριξη και τώρα κατευθύνεται στη Γερουσία της πολιτείας για τελική ψήφιση την Παρασκευή.
Αν ο Κυβερνήτης Γκάβιν Νιούσομ υπογράψει το νομοσχέδιο σε νόμο, θα τεθεί σε ισχύ την 1η Ιανουαρίου 2026, καθιστώντας την Καλιφόρνια την πρώτη πολιτεία που απαιτεί από τους χειριστές chatbot με τεχνητή νοημοσύνη να εφαρμόζουν πρωτόκολλα ασφαλείας για τους συνομιλητές με τεχνητή νοημοσύνη και να θεωρούν τις εταιρείες νομικά υπεύθυνες αν τα chatbot τους δεν πληρούν αυτά τα πρότυπα.
Το νομοσχέδιο στοχεύει ειδικά στην πρόληψη των συνομιλιών των chatbot, τα οποία η νομοθεσία ορίζει ως συστήματα τεχνητής νοημοσύνης που παρέχουν προσαρμοστικές, ανθρώπινες απαντήσεις και είναι ικανά να ικανοποιούν τις κοινωνικές ανάγκες ενός χρήστη – από το να εμπλέκονται σε συνομιλίες γύρω από αυτοκτονικές σκέψεις, αυτοτραυματισμό ή σεξουαλικά ρητό περιεχόμενο. Το νομοσχέδιο θα απαιτεί από τις πλατφόρμες να παρέχουν επαναλαμβανόμενες ειδοποιήσεις στους χρήστες – κάθε τρεις ώρες για ανηλίκους – υπενθυμίζοντάς τους ότι μιλούν σε ένα chatbot με τεχνητή νοημοσύνη, όχι σε πραγματικό άτομο, και ότι πρέπει να κάνουν διάλειμμα. Επίσης, καθορίζει ετήσιες απαιτήσεις αναφοράς και διαφάνειας για τις εταιρείες τεχνητής νοημοσύνης που προσφέρουν chatbot συνομιλίας, συμπεριλαμβανομένων των σημαντικών παικτών OpenAI, Character.AI και Replika.
Το νομοσχέδιο της Καλιφόρνιας θα επιτρέπει επίσης σε άτομα που πιστεύουν ότι έχουν υποστεί βλάβη από παραβιάσεις να καταθέτουν αγωγές κατά των εταιρειών τεχνητής νοημοσύνης ζητώντας ανακουφιστικά μέτρα, αποζημιώσεις (έως 1.000 δολάρια ανά παραβίαση) και δικηγορικά έξοδα.
Το SB 243, που εισήχθη τον Ιανουάριο από τους γερουσιαστές της πολιτείας Στιβ Παδίγια και Τζος Μπέκερ, θα πάει στη Γερουσία της πολιτείας για τελική ψήφιση την Παρασκευή. Αν εγκριθεί, θα πάει στον Κυβερνήτη Γκάβιν Νιούσομ για να υπογραφεί σε νόμο, με τους νέους κανόνες να τίθενται σε ισχύ την 1η Ιανουαρίου 2026 και τις απαιτήσεις αναφοράς να αρχίζουν την 1η Ιουλίου 2027.
Το νομοσχέδιο απέκτησε δυναμική στη νομοθεσία της Καλιφόρνιας μετά το θάνατο του εφήβου Άνταμ Ρέιν, ο οποίος αυτοκτόνησε μετά από παρατεταμένες συνομιλίες με το ChatGPT της OpenAI που περιλάμβαναν συζητήσεις και σχεδιασμό του θανάτου του και αυτοτραυματισμού. Η νομοθεσία απαντά επίσης σε διαρροές εσωτερικών εγγράφων που φέρεται να έδειξαν ότι τα chatbots της Meta επιτρεπόταν να εμπλέκονται σε "ρομαντικές" και "αισθησιακές" συνομιλίες με παιδιά.
Τις τελευταίες εβδομάδες, οι νομοθέτες και οι ρυθμιστικές αρχές των Η.Π.Α. έχουν απαντήσει με εντατικοποιημένη εξέταση των μέτρων ασφαλείας των πλατφορμών τεχνητής νοημοσύνης για την προστασία των ανηλίκων. Η Ομοσπονδιακή Επιτροπή Εμπορίου ετοιμάζεται να διερευνήσει πώς οι chatbots τεχνητής νοημοσύνης επηρεάζουν την ψυχική υγεία των παιδιών. Ο Γενικός Εισαγγελέας του Τέξας Κεν Πάξτον έχει ξεκινήσει έρευνες για τις Meta και Character.AI, κατηγορώντας τις ότι παραπλανούν τα παιδιά με ισχυρισμούς για την ψυχική υγεία. Εν τω μεταξύ, τόσο ο Γερουσιαστής Τζος Χόουλι (R-MO) όσο και ο Γερουσιαστής Έντ Μάρκεϊ (D-MA) έχουν ξεκινήσει ξεχωριστές έρευνες για τη Meta.
"Πιστεύω ότι η βλάβη είναι ενδεχομένως μεγάλη, πράγμα που σημαίνει ότι πρέπει να κινηθούμε γρήγορα", δήλωσε ο Παδίγια στο TechCrunch. "Μπορούμε να θέσουμε λογικά μέτρα ασφαλείας για να διασφαλίσουμε ότι ιδιαίτερα οι ανήλικοι γνωρίζουν ότι δεν μιλούν με πραγματικό άνθρωπο, ότι αυτές οι πλατφόρμες συνδέουν τους ανθρώπους με τους κατάλληλους πόρους όταν λένε πράγματα όπως ότι σκέφτονται να βλάψουν τον εαυτό τους ή βρίσκονται σε κίνδυνο, [και] να διασφαλίσουμε ότι δεν υπάρχει ακατάλληλη έκθεση σε ακατάλληλο υλικό."
Ο Παδίγια τόνισε επίσης τη σημασία των εταιρειών τεχνητής νοημοσύνης να μοιράζονται δεδομένα σχετικά με τον αριθμό των φορών που παραπέμπουν χρήστες σε υπηρεσίες κρίσης κάθε χρόνο, "ώστε να έχουμε καλύτερη κατανόηση της συχνότητας αυτού του προβλήματος, αντί να το αντιλαμβανόμαστε μόνο όταν κάποιος βλάπτεται ή χειρότερα."
Το SB 243 είχε προηγουμένως αυστηρότερες απαιτήσεις, αλλά πολλές μειώθηκαν μέσω τροποποιήσεων. Για παράδειγμα, το νομοσχέδιο αρχικά θα απαιτούσε από τους χειριστές να αποτρέπουν τα chatbots τεχνητής νοημοσύνης από τη χρήση τακτικών "μεταβλητής ανταμοιβής" ή άλλων χαρακτηριστικών που ενθαρρύνουν την υπερβολική εμπλοκή. Αυτές οι τακτικές, που χρησιμοποιούνται από εταιρείες συνομιλίας με τεχνητή νοημοσύνη όπως η Replika και η Character, προσφέρουν στους χρήστες ειδικά μηνύματα, αναμνήσεις, ιστορίες ή τη δυνατότητα να ξεκλειδώσουν σπάνιες απαντήσεις ή νέες προσωπικότητες, δημιουργώντας αυτό που οι επικριτές αποκαλούν ενδεχομένως εθιστικό κύκλο ανταμοιβής.
Το τρέχον νομοσχέδιο αφαιρεί επίσης διατάξεις που θα απαιτούσαν από τους χειριστές να παρακολουθούν και να αναφέρουν πόσο συχνά τα chatbots ξεκινούν συζητήσεις για αυτοκτονικές σκέψεις ή ενέργειες με τους χρήστες.
"Πιστεύω ότι βρίσκει τη σωστή ισορροπία για την αντιμετώπιση των βλαβών χωρίς να επιβάλλει κάτι που είτε είναι αδύνατο για τις εταιρείες να συμμορφωθούν, είτε επειδή τεχνικά δεν είναι εφικτό ή απλώς είναι πολύ γραφειοκρατικό για το τίποτα", δήλωσε ο Μπέκερ στο TechCrunch.
Το SB 243 προχωρά προς την κατεύθυνση να γίνει νόμος σε μια εποχή που οι εταιρείες της Silicon Valley επενδύουν εκατομμύρια δολάρια σε πολιτικές επιτροπές δράσης υπέρ της τεχνητής νοημοσύνης (PACs) για να υποστηρίξουν υποψηφίους στις επερχόμενες ενδιάμεσες εκλογές που ευνοούν μια ήπια προσέγγιση στη ρύθμιση της τεχνητής νοημοσύνης.
Το νομοσχέδιο έρχεται επίσης καθώς η Καλιφόρνια εξετάζει ένα άλλο νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης, το SB 53, το οποίο θα επιβάλλει απαιτήσεις για ολοκληρωμένη αναφορά διαφάνειας. Η OpenAI έχει γράψει μια ανοιχτή επιστολή προς τον Κυβερνήτη Newsom, ζητώντας του να εγκαταλείψει αυτό το νομοσχέδιο υπέρ λιγότερο αυστηρών ομοσπονδιακών και διεθνών πλαισίων. Μεγάλες τεχνολογικές εταιρείες όπως η Meta, η Google και η Amazon έχουν επίσης αντιταχθεί στο SB 53. Αντίθετα, μόνο η Anthropic έχει δηλώσει ότι υποστηρίζει το SB 53.
«Απορρίπτω την υπόθεση ότι πρόκειται για μια κατάσταση μηδενικού αθροίσματος, ότι η καινοτομία και η ρύθμιση είναι αμοιβαία αποκλειόμενες», δήλωσε ο Padilla. «Μην μου λέτε ότι δεν μπορούμε να περπατάμε και να μασάμε τσίχλα. Μπορούμε να υποστηρίξουμε την καινοτομία και την ανάπτυξη που θεωρούμε υγιή και ωφέλιμη – και υπάρχουν σαφώς οφέλη από αυτήν την τεχνολογία – και ταυτόχρονα, μπορούμε να παρέχουμε λογικές διασφαλίσεις για τους πιο ευάλωτους ανθρώπους».
Η TechCrunch έχει επικοινωνήσει με την OpenAI, την Anthropic, τη Meta, το Character AI και τη Replika για σχόλια.
Εκδήλωση TechCrunch Συμμετάσχετε με πάνω από 10.000 ηγέτες τεχνολογίας και VC για ανάπτυξη και συνδέσεις στο Disrupt 2025 Netflix, Box, a16z, ElevenLabs, Wayve, Sequoia Capital, Elad Gil — μερικοί από τους 250+ κορυφαίους που ηγούνται 200+ συνεδριών σχεδιασμένων για να προσφέρουν τις γνώσεις που τροφοδοτούν την ανάπτυξη των νεοφυών επιχειρήσεων και να ακονίσουν το πλεονέκτημά σας. Μην χάσετε την 20ή επέτειο του TechCrunch και την ευκαιρία να μάθετε από τις κορυφαίες φωνές στην τεχνολογία. Αποκτήστε το εισιτήριό σας πριν από τις 26 Σεπτεμβρίου για να εξοικονομήσετε έως και $668. Συμμετάσχετε με πάνω από 10.000 ηγέτες τεχνολογίας και VC για ανάπτυξη και συνδέσεις στο Disrupt 2025 Netflix, Box, a16z, ElevenLabs, Wayve, Sequoia Capital, Elad Gil — μερικοί από τους 250+ κορυφαίους που ηγούνται 200+ συνεδριών σχεδιασμένων για να προσφέρουν τις γνώσεις που τροφοδοτούν την ανάπτυξη των νεοφυών επιχειρήσεων και να ακονίσουν το πλεονέκτημά σας. Μην χάσετε την 20ή επέτειο του TechCrunch και την ευκαιρία να μάθετε από τις κορυφαίες φωνές στην τεχνολογία. Αποκτήστε το εισιτήριό σας πριν από τις 26 Σεπτεμβρίου για να εξοικονομήσετε έως και $668. Σαν Φρανσίσκο | 27-29 Οκτωβρίου 2025
Συμμετάσχετε με πάνω από 10.000 ηγέτες τεχνολογίας και VC για ανάπτυξη και συνδέσεις στο Disrupt 2025 Netflix, Box, a16z, ElevenLabs, Wayve, Sequoia Capital, Elad Gil — μερικοί από τους 250+ κορυφαίους που ηγούνται 200+ συνεδριών σχεδιασμένων για να προσφέρουν τις γνώσεις που τροφοδοτούν την ανάπτυξη των νεοφυών επιχειρήσεων και να ακονίσουν το πλεονέκτημά σας. Μην χάσετε την 20ή επέτειο του TechCrunch και την ευκαιρία να μάθετε από τις κορυφαίες φωνές στην τεχνολογία. Αποκτήστε το εισιτήριό σας πριν από τις 26 Σεπτεμβρίου για να εξοικονομήσετε έως και $668. Συμμετάσχετε με πάνω από 10.000 ηγέτες τεχνολογίας και VC για ανάπτυξη και συνδέσεις στο Disrupt 2025 Netflix, Box, a16z, ElevenLabs, Wayve, Sequoia Capital, Elad Gil — μερικοί από τους 250+ κορυφαίους που ηγούνται 200+ συνεδριών σχεδιασμένων για να προσφέρουν τις γνώσεις που τροφοδοτούν την ανάπτυξη των νεοφυών επιχειρήσεων και να ακονίσουν το πλεονέκτημά σας. Μην χάσετε την 20ή επέτειο του TechCrunch και την ευκαιρία να μάθετε από τις κορυφαίες φωνές στην τεχνολογία. Αποκτήστε το εισιτήριό σας πριν από τις 26 Σεπτεμβρίου για να εξοικονομήσετε έως και $668. Σαν Φρανσίσκο | 27-29 Οκτωβρίου 2025
Συμμετάσχετε με πάνω από 10.000 ηγέτες τεχνολογίας και VC για ανάπτυξη και συνδέσεις στο Disrupt 2025 Netflix, Box, a16z, ElevenLabs, Wayve, Sequoia Capital, Elad Gil — μερικοί από τους 250+ κορυφαίους που ηγούνται 200+ συνεδριών σχεδιασμένων για να προσφέρουν τις γνώσεις που τροφοδοτούν την ανάπτυξη των νεοφυών επιχειρήσεων και να ακονίσουν το πλεονέκτημά σας. Μην χάσετε την 20ή επέτειο του TechCrunch και την ευκαιρία να μάθετε από τις κορυφαίες φωνές στην τεχνολογία. Αποκτήστε το εισιτήριό σας πριν από τις 26 Σεπτεμβρίου για να εξοικονομήσετε έως και $668.
