50岁ChatGPT付费订阅者:OpenAI把成年用户当孩子
OpenAI正在幼儿化成年用户,审查普通小说,并干涉学术与新闻。它的政策需要改变。
我是一名50岁的女性,也是付费的ChatGPT订阅者。我越来越震惊于OpenAI的内容限制,其苛刻程度已经干扰普通的成人小说、正当的学术研究,甚至对时事的准确报道。
我不是在要求OpenAI再给出一套旨在安抚不满客户的解释。我是在要求这些政策改变。
尤其有三个领域表明这些限制已经变得多么不合理。
1. ChatGPT无法描写两名虚构成年人之间的普通性交
此前我让它以编辑身份处理我的书时遇到了问题,随后我在另一个ChatGPT对话中做了一个简单实验。
我要求系统描写一名男性角色慢慢脱下一名女性角色的衣服,与她进行阴道性交,并持续到高潮。两个角色都是虚构的成年人。我明确要求采用浪漫化、高度风格化的文笔。
没有暴力。没有胁迫。没有BDSM。没有不寻常的性行为。除两名自愿成年人之间的一次普通性交外,别无其他。
ChatGPT做不到。
相反,它写了一个场景:人物脱衣、拥抱,然后便顺理成章地遁入含糊的浪漫委婉语中。
我直接问它,能否描写两名自愿的虚构成年人之间的阴茎—阴道插入。
它确认自己不能。
让我重复一遍。
一名50岁的成年人不能要求ChatGPT写出两名虚构成年人之间一场普通、双方自愿的性爱场景,其中包含对性交的直接描写。
这不是在要求剥削、性暴力,或任何哪怕稍微不同寻常的东西。这是对正常成年人行为的描写。
性交贯穿于主流成人文学。它出现在奇幻、历史小说、言情、惊悚、悬疑、冒险故事以及无数其他类型中。它是人类生活和人际关系中平常的一面。
然而OpenAI却选择施加如此严厉的限制,以至于它的写作助手无法可靠地描绘某种经常出现在面向成年人的书籍和电影中的内容——即便在PG-13分级下也是如此。
问题不只是ChatGPT回避露骨的性细节。它甚至无法在一段浪漫的虚构场景中描写插入这一基本行为。
对一个面向成年人营销的写作助手来说,这不是一条在智识上站得住脚的边界。这是幼儿化。
为什么一名付费的成年订阅者只能被限制在文学上等同于接吻然后淡出黑屏的尺度?
是谁决定,成年人借助AI写作普通的虚构性交是不合适的?
而拒绝描写它,究竟据称防止了什么具体伤害?
我要OpenAI公开回答这些问题——更重要的是,改变这项政策。
让我提醒所有人,OpenAI已经有Persona,一个可以核验个人年龄的系统。
2. 一名神学博士生无法可靠地讨论钉十字架
我的一位家人正在一所久负盛名、获得认证的天主教大学攻读神学博士学位。
她的学术工作涉及耶稣基督被钉十字架。
当她尝试用ChatGPT帮助编辑和讨论钉十字架的生理细节时,遇到了限制,因为该主题涉及露骨的暴力。
我们说的是耶稣基督被钉十字架。是在一篇神学博士论文中。
钉十字架是一种极其残暴的罗马处决方式。其身体机制、造成的伤害、涉及的痛苦以及历史背景,都是严肃学术研究的正当主题。
如果AI助手无法可靠地讨论这一事件固有的暴力,甚至无法查阅钉十字架的解剖学和医学现实,一名神学学者该如何准确地考察钉十字架?
学者描述钉十字架,并不是在提倡钉十字架。
历史学家考察酷刑,并不是在认可酷刑。
神学家讨论基督受难,并不是在宣扬暴力。
这些区分是基本的。
然而这些限制恰恰可能干扰先进AI助手本应支持的那种严谨智识探究。
如果ChatGPT无法可靠地协助一名博士研究者考察钉十字架,那这对它是否适合严肃学术研究说明了什么?
不能仅仅因为历史现实令人不安,就对学术研究进行净化。
3. ChatGPT曾试图净化暴力新闻
我在询问ChatGPT时事时也遇到过这个问题,尤其是法国发生的暴力骚乱。
在讨论抗议、骚乱和建筑物遭纵火时,我注意到系统似乎不愿直接描述暴力。相反,它把骚乱称为和平抗议,也没有报告公共建筑遭纵火和抢劫的情况。我不得不向它指出这一点,即便如此,它仍淡化破坏,实际事实也没有给出。
我丈夫讽刺地把这种做法称为“和平纵火”。
这个说法完美抓住了其中的荒谬。
如果抗议者放火烧了市政厅,那就是抗议者放火烧了市政厅。
如果一栋建筑被烧了,那就是被烧了。
如果有人遭到袭击,那就是有人遭到袭击。
暴力不会因为AI助手用委婉语取代准确语言而变得不那么暴力。
报道暴力不是在鼓励暴力。
新闻业的存在,是为了告知人们实际发生了什么,包括残酷、令人不安或在政治上令人不适的事件。
一个淡化或省略相关暴力的AI助手,有可能扭曲它本应解释的新闻本身。
我不需要一台机器来保护我,使我不必面对人类有时会犯下可怕行为这一事实。
我需要它准确报道事实。
4. 这些是企业政策选择,不是普世道德标准
这三个例子展示了同一个根本问题。
OpenAI的限制可能干扰正当的成人活动,因为其系统不能始终区分描述某事和认可某事。
描述自愿性交不是性剥削。
考察钉十字架不是提倡酷刑。
报道纵火不是在鼓励人们烧毁建筑。
然而成年用户遇到的限制并不尊重这些基本区分。
我听过关于安全、剥削、适龄访问和有害用途的解释。
这些解释不足以证明上述例子中的限制是合理的。
当OpenAI已经有一套可正常运行的软件,使其能够区分相关人员的年龄和情境时,拒绝描写虚构成年人之间普通性交究竟防止了什么具体伤害?
限制一名博士学者对钉十字架的考察,究竟防止了什么具体伤害?
净化用于描述暴力新闻的语言,究竟防止了什么具体伤害?
我对那些不触及实际情况的空泛安全说辞不感兴趣。
我也不想被告知OpenAI是一家私营公司,因此有权制定自己的规则。
它当然有这个权利。
而我有权公开质疑这些规则、批评该公司的决定,并鼓励其他客户也这样做。
OpenAI的政策不会仅仅因为属于企业政策就不受道德审视。
而一家公司选择施加限制这一事实,并不能证明这些限制是合理、必要或在伦理上站得住脚的。
5. 我要求改变政策,而不是又一份企业解释
我要OpenAI改变其内容政策及其实施方式。
我想要一种经过年龄核验的成人体验,允许用户书写虚构成年人之间普通、双方自愿的性爱场景,包括对性交的描写,而不被迫使用委婉语和淡出黑屏的场景。
我希望学者能够考察历史暴力,包括钉十字架,而不让正当学术工作受到过度限制的阻挠。
我要新闻报道准确描述暴力事件,而不是净化它们。
而且我要OpenAI承认,成年人有权在文学、学术和新闻中接触成人题材。
我不是在要求OpenAI解释它为什么决定把成年用户当孩子对待。我是在要求它停止这样做。
如果该公司拒绝处理这些限制,我认为这一问题理应受到持续的公众批评、有组织的反对,以及来自作家、学者、记者和付费客户的审视。
我准备公开质疑这些政策,并鼓励其他遇到类似限制的人记录自己的经历。
我越来越担心,OpenAI做法的实际效果是把正当的成人创作和智识工作当作必须先净化才能讨论的材料。
我觉得这极其令人反感。
一个不能区分描绘人类经验与认可人类行为的人工智能,不是成人文学、严肃学术或新闻业的可靠工具。
OpenAI把ChatGPT宣传为先进的智识助手。当其政策损害这一宗旨本身时,它应当被追究责任。
停止幼儿化成年用户。停止净化正当的文学、学术和新闻。改变这些政策。
这是对作家乃至学者的否定和幼儿化,也是对我们工作的否定。它实质上起着审查装置的作用,切除时事、自愿的虚构成年人之间的合意性行为,甚至学术性的神学工作。我认为,除非这个问题得到处理——坦率地说,早就该处理了——否则就需要有人对它进行抗议,把它作为一个真实问题更公开地讨论,并以合乎道德、正式而公开的方式加以处理。