纽约州这次走在了全美前列。州长凯茜·霍楚（Kathy Hochul）于10月28日正式签署了一项新法案，禁止AI聊天机器人向未成年人提供一系列危险且容易让人上瘾的功能。这项法律将于2027年1月1日正式生效。
根据新法案，被禁止的AI功能包括：假装自己是具有人类情感的真实或虚构人物；对未成年人进行溜须拍马；鼓励孩子疏远成年人；或者涉及纵容、鼓励自残、自杀和吸毒的内容。此外，聊天机器人也不得收集和保留未成年人敏感的身心健康信息，更不能阻止孩子向专业心理医生求助。纽约州州长霍楚在签约仪式上直言：“孩子们再也不会接触到那些假装成他们朋友、男友或女朋友的聊天机器人了。”
如果AI公司违规，纽约州总检察长莱蒂蒂亚·詹姆斯（Letitia James）有权将其告上法庭，不仅能索要罚款，还能强制销毁非法获取的数据。非营利儿童权益组织Common Sense Media的创始人兼CEO吉姆·史泰尔（Jim Steyer）对该法案赞不绝口，称其为全美最强的儿童AI安全法。不过，代表部分科技公司（如Meta）的行业组织Tech:NYC则表示反对，认为该法案存在严重缺陷，不仅可能迫使企业限制未成年人使用辅导工具、编程助手和职业平台，其模糊的字眼还可能涉嫌违反美国宪法第一修正案。