Η Καλιφόρνια έκανε ένα μεγάλο βήμα προς τη ρύθμιση της τεχνητής νοημοσύνης. Το SB 243 — ένα νομοσχέδιο που θα ρυθμίζει τα συνοδευτικά chatbots τεχνητής νοημοσύνης για την προστασία ανηλίκων και ευάλωτων χρηστών — πέρασε τόσο από τη Βουλή των Αντιπροσώπων όσο και από τη Γερουσία της Πολιτείας με διακομματική υποστήριξη και τώρα κατευθύνεται στο γραφείο του Κυβερνήτη Γκάβιν Νιούσομ.
Ο Νιούσομ έχει προθεσμία μέχρι τις 12 Οκτωβρίου για να ασκήσει βέτο στο νομοσχέδιο ή να το υπογράψει σε νόμο. Αν το υπογράψει, θα τεθεί σε ισχύ την 1η Ιανουαρίου 2026, καθιστώντας την Καλιφόρνια την πρώτη πολιτεία που απαιτεί από τους χειριστές chatbots τεχνητής νοημοσύνης να εφαρμόσουν πρωτόκολλα ασφαλείας για τους συνοδευτικούς AI και να θεωρούνται νομικά υπεύθυνοι εάν τα chatbots τους αποτύχουν να πληρούν αυτά τα πρότυπα.
Το νομοσχέδιο στοχεύει ειδικά στην αποτροπή των συνοδευτικών chatbots — που η νομοθεσία ορίζει ως συστήματα τεχνητής νοημοσύνης που παρέχουν προσαρμοστικές, ανθρώπινες απαντήσεις και είναι ικανά να καλύψουν τις κοινωνικές ανάγκες ενός χρήστη — από το να εμπλέκονται σε συζητήσεις γύρω από αυτοκτονικές σκέψεις, αυτοτραυματισμό ή σεξουαλικά ρητό περιεχόμενο.
Το νομοσχέδιο θα απαιτεί από τις πλατφόρμες να παρέχουν επαναλαμβανόμενες ειδοποιήσεις στους χρήστες — κάθε τρεις ώρες για ανηλίκους — υπενθυμίζοντάς τους ότι μιλούν σε ένα chatbot τεχνητής νοημοσύνης, όχι σε πραγματικό άτομο, και ότι πρέπει να κάνουν διάλειμμα. Επίσης, καθιερώνει ετήσιες απαιτήσεις αναφοράς και διαφάνειας για τις εταιρείες τεχνητής νοημοσύνης που προσφέρουν συνοδευτικά chatbots, συμπεριλαμβανομένων των μεγάλων παικτών OpenAI, Character.AI και Replika, οι οποίες θα τεθούν σε ισχύ την 1η Ιουλίου 2027.
Το νομοσχέδιο της Καλιφόρνιας θα επιτρέπει επίσης σε άτομα που πιστεύουν ότι έχουν υποστεί ζημία από παραβιάσεις να καταθέτουν αγωγές κατά των εταιρειών τεχνητής νοημοσύνης ζητώντας ανακουφιστική αποζημίωση, αποζημιώσεις (έως 1.000 δολάρια ανά παραβίαση) και δικηγορικά έξοδα.
Το SB 243 εισήχθη τον Ιανουάριο από τους πολιτειακούς γερουσιαστές Στιβ Παδίγια και Τζος Μπέκερ. Απέκτησε δυναμική στη νομοθετική εξουσία της Καλιφόρνιας μετά τον θάνατο του εφήβου Άνταμ Ρέιν, ο οποίος αυτοκτόνησε μετά από παρατεταμένες συζητήσεις με το ChatGPT της OpenAI που περιλάμβαναν συζήτηση και σχεδιασμό του θανάτου του και αυτοτραυματισμού. Η νομοθεσία απαντά επίσης σε διαρροές εσωτερικών εγγράφων που φέρεται να έδειξαν ότι τα chatbots της Meta επιτρεπόταν να εμπλέκονται σε "ρομαντικές" και "αισθησιακές" συνομιλίες με παιδιά.
Τις τελευταίες εβδομάδες, οι νομοθέτες και οι ρυθμιστικές αρχές των Η.Π.Α. έχουν ανταποκριθεί με εντατικοποιημένο έλεγχο των μέτρων ασφαλείας των πλατφορμών τεχνητής νοημοσύνης για την προστασία των ανηλίκων. Η Ομοσπονδιακή Επιτροπή Εμπορίου προετοιμάζεται να ερευνήσει πώς τα chatbots τεχνητής νοημοσύνης επηρεάζουν την ψυχική υγεία των παιδιών. Ο γενικός εισαγγελέας του Τέξας, Κεν Πάξτον, έχει ξεκινήσει έρευνες κατά της Meta και της Character.AI, κατηγορώντας τους ότι παραπλανούν τα παιδιά με ισχυρισμούς για την ψυχική υγεία. Εν τω μεταξύ, τόσο ο γερουσιαστής Τζος Χόλεϊ (R-MO) όσο και ο γερουσιαστής Εντ Μάρκεϊ (D-MA) έχουν ξεκινήσει ξεχωριστές έρευνες κατά της Meta.
"Νομίζω ότι η ζημία είναι δυνητικά μεγάλη, που σημαίνει ότι πρέπει να κινηθούμε γρήγορα," είπε ο Παδίγια στο TechCrunch. "Μπορούμε να θέσουμε λογικά μέτρα ασφαλείας για να διασφαλίσουμε ότι ιδιαίτερα οι ανήλικοι γνωρίζουν ότι δεν μιλούν σε πραγματικό άνθρωπο, ότι αυτές οι πλατφόρμες συνδέουν τους ανθρώπους με τους κατάλληλους πόρους όταν λένε πράγματα όπως ότι σκέφτονται να βλάψουν τον εαυτό τους ή βρίσκονται σε δυσφορία, [και] να διασφαλίσουμε ότι δεν υπάρχει ακατάλληλη έκθεση σε ακατάλληλο υλικό."
Ο Παδίγια τόνισε επίσης τη σημασία οι εταιρείες τεχνητής νοημοσύνης να μοιράζονται δεδομένα για τον αριθμό των φορών που παραπέμπουν χρήστες σε υπηρεσίες κρίσης κάθε χρόνο, "ώστε να έχουμε καλύτερη κατανόηση της συχνότητας αυτού του προβλήματος, αντί να το αντιληφθούμε μόνο όταν κάποιος έχει βλαφθεί ή χειρότερα."
Το SB 243 είχε προηγουμένως αυστηρότερες απαιτήσεις, αλλά πολλές από αυτές μειώθηκαν μέσω τροπολογιών. Για παράδειγμα, το νομοσχέδιο αρχικά θα απαιτούσε από τους χειριστές να αποτρέπουν τα chatbots τεχνητής νοημοσύνης από τη χρήση τακτικών "μεταβλητής ανταμοιβής" ή άλλων χαρακτηριστικών που ενθαρρύνουν την υπερβολική εμπλοκή. Αυτές οι τακτικές, που χρησιμοποιούνται από εταιρείες συνοδευτικών AI όπως η Replika και η Character, προσφέρουν στους χρήστες ειδικά μηνύματα, αναμνήσεις, ιστορίες ή τη δυνατότητα να ξεκλειδώσουν σπάνιες απαντήσεις ή νέες προσωπικότητες, δημιουργώντας αυτό που οι επικριτές αποκαλούν δυνητικά εθιστικό κύκλο ανταμοιβής.
Το τρέχον νομοσχέδιο επίσης αφαιρεί διατάξεις που θα απαιτούσαν από τους χειριστές να παρακολουθούν και να αναφέρουν πόσο συχνά τα chatbots ξεκινούν συζητήσεις για αυτοκτονικές σκέψεις ή ενέργειες με τους χρήστες.
"Νομίζω ότι βρίσκει τη σωστή ισορροπία αντιμετώπισης των ζημιών χωρίς να επιβάλλει κάτι που είναι είτε αδύνατο για τις εταιρείες να συμμορφωθούν, είτε επειδή τεχνικά δεν είναι εφικτό ή απλά είναι πολύ γραφειοκρατικό για το τίποτα," είπε ο Μπέκερ στο TechCrunch.
Το SB 243 κινείται προς τη νομοθέτηση σε μια εποχή που οι εταιρείες της Silicon Valley επενδύουν εκατομμύρια δολάρια σε πολιτικές επιτροπές δράσης υπέρ της τεχνητής νοημοσύνης (PACs) για να υποστηρίξουν υποψηφίους στις επερχόμενες ενδιάμεσες εκλογές που προτιμούν μια ήπια προσέγγιση στη ρύθμιση της τεχνητής νοημοσύνης.
"Το νομοσχέδιο έρχεται επίσης καθώς η Καλιφόρνια εξετάζει ένα άλλο νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης, το SB 53, το οποίο θα απαιτούσε ολοκληρωμένες απαιτήσεις αναφοράς διαφάνειας. Η OpenAI έχει γράψει μια ανοιχτή επιστολή προς τον Κυβερνήτη Newsom, ζητώντας του να εγκαταλείψει αυτό το νομοσχέδιο υπέρ λιγότερο αυστηρών ομοσπονδιακών και διεθνών πλαισίων. Μεγάλες τεχνολογικές εταιρείες όπως η Meta, η Google και η Amazon έχουν επίσης αντιταχθεί στο SB 53. Αντίθετα, μόνο η Anthropic έχει δηλώσει ότι υποστηρίζει το SB 53.
«Απορρίπτω την υπόθεση ότι αυτή είναι μια κατάσταση μηδενικού αθροίσματος, ότι η καινοτομία και η ρύθμιση είναι αμοιβαία αποκλειόμενες», είπε ο Padilla. «Μην μου λέτε ότι δεν μπορούμε να περπατήσουμε και να μασήσουμε τσίχλα. Μπορούμε να υποστηρίξουμε την καινοτομία και την ανάπτυξη που θεωρούμε υγιή και έχει οφέλη — και υπάρχουν σαφώς οφέλη από αυτήν την τεχνολογία — και ταυτόχρονα, μπορούμε να παρέχουμε λογικές διασφαλίσεις για τους πιο ευάλωτους ανθρώπους.»
«Παρακολουθούμε στενά το νομοθετικό και ρυθμιστικό τοπίο και καλωσορίζουμε τη συνεργασία με ρυθμιστικές αρχές και νομοθέτες καθώς αρχίζουν να εξετάζουν νομοθεσία για αυτόν τον αναδυόμενο χώρο», δήλωσε εκπρόσωπος της Character.AI στο TechCrunch, σημειώνοντας ότι η startup ήδη περιλαμβάνει εμφανείς αποποιήσεις ευθυνών σε όλη την εμπειρία συνομιλίας χρήστη, εξηγώντας ότι πρέπει να αντιμετωπίζεται ως μυθοπλασία.
Ένας εκπρόσωπος της Meta αρνήθηκε να σχολιάσει.
Το TechCrunch έχει επικοινωνήσει με την OpenAI, την Anthropic και την Replika για σχόλιο.
Εκδήλωση TechCrunch Ελάτε μαζί με περισσότερους από 10.000 ηγέτες τεχνολογίας και VC για ανάπτυξη και συνδέσεις στο Disrupt 2025 Netflix, Box, a16z, ElevenLabs, Wayve, Sequoia Capital, Elad Gil — μόνο μερικοί από τους 250+ σημαντικούς παράγοντες που ηγούνται 200+ συνεδριών σχεδιασμένων να παρέχουν τις γνώσεις που τροφοδοτούν την ανάπτυξη των startups και ακονίζουν το πλεονέκτημά σας. Μην χάσετε την 20η επέτειο του TechCrunch και την ευκαιρία να μάθετε από τις κορυφαίες φωνές στην τεχνολογία. Αποκτήστε το εισιτήριό σας πριν από τις 26 Σεπτεμβρίου για να εξοικονομήσετε έως και $668. Ελάτε μαζί με περισσότερους από 10.000 ηγέτες τεχνολογίας και VC για ανάπτυξη και συνδέσεις στο Disrupt 2025 Netflix, Box, a16z, ElevenLabs, Wayve, Sequoia Capital, Elad Gil — μόνο μερικοί από τους 250+ σημαντικούς παράγοντες που ηγούνται 200+ συνεδριών σχεδιασμένων να παρέχουν τις γνώσεις που τροφοδοτούν την ανάπτυξη των startups και ακονίζουν το πλεονέκτημά σας. Μην χάσετε την 20η επέτειο του TechCrunch και την ευκαιρία να μάθετε από τις κορυφαίες φωνές στην τεχνολογία. Αποκτήστε το εισιτήριό σας πριν από τις 26 Σεπτεμβρίου για να εξοικονομήσετε έως και $668. Σαν Φρανσίσκο | 27-29 Οκτωβρίου 2025
Ελάτε μαζί με περισσότερους από 10.000 ηγέτες τεχνολογίας και VC για ανάπτυξη και συνδέσεις στο Disrupt 2025 Netflix, Box, a16z, ElevenLabs, Wayve, Sequoia Capital, Elad Gil — μόνο μερικοί από τους 250+ σημαντικούς παράγοντες που ηγούνται 200+ συνεδριών σχεδιασμένων να παρέχουν τις γνώσεις που τροφοδοτούν την ανάπτυξη των startups και ακονίζουν το πλεονέκτημά σας. Μην χάσετε την 20η επέτειο του TechCrunch και την ευκαιρία να μάθετε από τις κορυφαίες φωνές στην τεχνολογία. Αποκτήστε το εισιτήριό σας πριν από τις 26 Σεπτεμβρίου για να εξοικονομήσετε έως και $668.
Ελάτε μαζί με περισσότερους από 10.000 ηγέτες τεχνολογίας και VC για ανάπτυξη και συνδέσεις στο Disrupt 2025 Netflix, Box, a16z, ElevenLabs, Wayve, Sequoia Capital, Elad Gil — μόνο μερικοί από τους 250+ σημαντικούς παράγοντες που ηγούνται 200+ συνεδριών σχεδιασμένων να παρέχουν τις γνώσεις που τροφοδοτούν την ανάπτυξη των startups και ακονίζουν το πλεονέκτημά σας. Μην χάσετε την 20η επέτειο του TechCrunch και την ευκαιρία να μάθετε από τις κορυφαίες φωνές στην τεχνολογία. Αποκτήστε το εισιτήριό σας πριν από τις 26 Σεπτεμβρίου για να εξοικονομήσετε έως και $668."
