| 送交者: xiaochuliu[♂★★大🇨🇳lngviva★★♂] 于 2023-07-14 6:14 已读 4157 次 | xiaochuliu的个人频道 |
谁敢对OpenAI重拳出击！美国政府出手开源ChatGPT，Altman惊慌连发3推 6park.comFTC突然对OpenAI展开调查，Altman连发3推澄清。FTC对阵OpenAI的大戏正缓缓拉开帷幕。 6park.com重磅！美国联邦贸易委员会的调查说来就来！ 6park.com
6park.com调查对象不是别人，正是风头正旺的OpenAI。 6park.com
6park.com一封长达20页的调查要求书直接给了Sam Altman当头棒喝。 6park.com
6park.comOpenAI又双叒摊上事了 6park.com
6park.com上周OpenAI刚刚被美国律所和作家起诉，要求赔偿30亿美元。 6park.com可能OpenAI还没来得及选好帮自己打官司的律师，这边又被美国联邦贸易委（FTC）员会找上门来了。 6park.com
6park.com 6park.comFTC给OpenAI列了一个包括49个大问题，200多个小问题的清单，要求OpenAI就清单上的所有问题进行详细地回答和陈述。 6park.com
6park.com 6park.com看到这一大串的问题，向来以成熟冷静，处变不惊著称的Sam Altman也有点麻了，连发3推给OpenAI压压惊。 6park.com
6park.com 6park.com这份清单的49个问题，除去要求OpenAI讲清楚基本的公司架构之外，针对模型训练，隐私和提示词风险，API插件，个人信息等几个方面，询问得非常专业和详细。 6park.com
6park.comFTC！主动出击 6park.com
6park.com说穿了一句话，FTC主要调查的内容就是OpenAI违没违反消费者保护法。 6park.com而公布的20页民事调查要求书（CID）一看就专业的不行。 6park.com
6park.com 6park.com知情人士表示，这份20页的CID是真实的。但FTC没有予以置评。 6park.com
6park.comCID中指出，本次FTC的调查将重点关注OpenAI是否存在不公平，或欺诈性的隐私数据安全条例，以及是否有不公平，或欺诈性的行为，导致用户蒙受受到伤害的风险（包括声誉损失），有无违反《联邦贸易委员会法》第5条内容。 6park.com
6park.com一直以来，立法者都在为生成式AI发愁，需不需要立新法，怎么立，怎么保护知识产权、用户数据，都是「头疼大事」。 6park.com
6park.com而在这次调查中，FTC霸气地表示，我们已有法律权力来追究AI可能造成的伤害。 6park.com
6park.com而提到FTC，就得提到主席Lina Khan。 6park.com
6park.com作为一个女强人，她直接就是一个出手，对新兴技术采取主动监管，而非被动应对。 6park.com
6park.com概括来看，CID中要求OpenAI列出所有有权访问其模型的第三方，并要求这些第三方分别讲清楚各自是如何保留、处置用户数据的，以及自己公司模型训练的数据从哪儿来。 6park.com
6park.comCID还要求OpenAI说明他们是如何评估LLM存在的风险的，以及是如何检测并处理有误导性、歧视性的内容的。 6park.com
6park.com要知道，在今年3月，OpenAI曾经出现过疏漏，当时的错误是：一部分用户可以看到其他用户的历史聊天记录的标题，以及1.2%左右的ChatGPT Plus用户的支付信息暴露。 6park.com
6park.com为此，3月24号OpenAI在官网上发布了一篇文章，解释20号发生了什么。 6park.com
6park.com 6park.com而此次的调查要求OpenAI对这个事儿进行二次说明。 6park.com
6park.com其实截止到现在，OpenAI的CEO Altman在华盛顿还是个香饽饽的。 6park.com
6park.com立法者们觉得，Altman在对立法监管自家公司产品这件事上，还算是兼听则明的。 6park.com
6park.com不过，也有另一些AI专家提醒，Altman这么说也可能有自己的考虑，还是要广泛听取各方不同的观点。 6park.com
6park.com质询函内容 6park.com
6park.com在这份CID中，FTC列举了49个问题，囊括以下几个方面： 6park.com1. 公司基本信息及背景 6park.com
6park.com2. 相关告知与陈述 6park.com
6park.com3. 模型开发与训练 6park.com
6park.com4. 风险评估与应对 6park.com
6park.com5. 隐私和Prompt风险及措施 6park.com
6park.com6. API集成及插件 6park.com
6park.com而在每个大类下，CID又从各个方面详细列举了若干问题。比较重要的有如下： 6park.comOpenAI必须披露其完整的法定名称、地址、电话号码以及OpenAI结构、子公司、合伙企业等细节。 6park.com
6park.com在适用时期内,每年OpenAI必须披露员工人数、组织结构图、高管和董事详细信息、股东详细信息等。 6park.com
6park.comOpenAI必须披露在适用时期内与第三方就开发LLM签订的所有协议的详情。 6park.com
6park.comOpenAI必须披露其用于训练、测试、审计和监控LLM的政策和程序。 6park.com
6park.comOpenAI必须披露用于训练LLM的数据来源、数据类型、数据保留和负责数据的个人/部门的详细信息。 6park.com
6park.comOpenAI必须披露其技术和组织安全措施,以降低LLM输出包含非法、不安全、有偏见或误导内容的风险。 6park.com
6park.comOpenAI必须披露用户投诉受到伤害的详细信息以及应对的回应。 6park.com
6park.comOpenAI必须披露与AI系统的隐私、安全和伦理相关的政策和程序。 6park.com
6park.comOpenAI必须披露与其LLM的安全性、偏见和事实正确性相关的内部沟通、评估和研究的详细信息。 6park.com
6park.comOpenAI必须披露其如何监控遵守与审计AI系统相关政策的详细信息。 6park.com
6park.comOpenAI必须披露向LLM用户提供的说明、指南和培训材料的详细信息。 6park.com
6park.comOpenAI必须披露与其LLM相关的任何外部研究/测试并概述结果。 6park.com
6park.comOpenAI必须披露其为应对安全问题而对LLM做出的任何修改的详细信息。 6park.com看了这一系列的详细而全面的问题，如果OpenAI真的不得不对里面的内容进行详尽陈述的话，万一内容「一不小心」被泄露出来，OpenAI可能真的就被彻底OPEN了。 6park.com屋漏偏逢连夜雨 6park.com
6park.comOpenAI最近的麻烦事还真不止这一件。 6park.com
6park.com6月28号，位于北加州的Clarkson律所代表16名原告对OpenAI提起了集体诉讼。 6park.com 6park.com指控OpenAI在训练大模型时从网上抓取的数据，严重侵犯了16名原告的著作权和隐私，要求赔偿30亿美金。 6park.com克拉克森诉讼的核心主张是OpenAI的整个商业模式都是基于盗窃。 6park.com几天之后4位作家Mona Awad，Paul TremblaSarah Silverman，Christopher Golden、Richard Kadrey也在美国不同的地方法院分别起诉了OpenAI，指控他们在未经同意的情况下使用他们出版的书籍来训练 ChatGPT，违反了版权法。 6park.com 6park.com看到这里，可能有的读者想问了，之前你们不是写过Sam Altman大战国会山，赢得了监管的支持，怎么一下出来这么多找OpenAI茬的人？ 6park.com这里的主要问题在于，美国社会里管事的有3拨人：国会里立法的老头子们，法院里审案子的法官们和政府的行政机构，他们3家属于分别管事，大部分时候互不牵扯。 6park.com所以Sam Altman虽然赢得了第一拨人——国会里立法的老头子们的支持，但是另外两拨的关系他还没有搞定。 6park.com这两天的事情就属于这两拨没搞定的人找上门来了。 6park.com而今天来查水表的FTC，应该是所有人里最难应付的主。 6park.com科技公司劲敌——FTC 6park.com
6park.comFTC中文全称是联邦贸易委员会，职能类似于我们国家的商务部。 6park.com
6park.com最近一段时间稍微关注过美国科技圈新闻的读者应该对这个机构应该都不陌生，除了找OpenAI的麻烦，它的业绩还包括：调查处罚了FTX等一些加密货币交易所，和微软打了个反垄断官司。 6park.com昨天，FTC临时中止微软收购暴雪的动议刚被法院驳回，今天就去查了OpenAI的水表。 6park.com不得不感叹，FTC这政府机构的工作效率堪比创业公司。 6park.com 6park.com再看看FTC以往和科技公司的交锋历史，Facebook，谷歌，微软，亚马逊都因为各种问题被它处罚过，可以说是科技公司的老苦主了。 6park.com而它现在任上的主席Lina Khan女士，更是一位相当传奇的人物。 6park.com 6park.com她在2021年6月15日被拜登任命为FTC主席时，才32岁。 6park.com这经历怎么说呢，放在国内就相当于32岁的女士成为了商务部部长，属于是爽文作者都不敢立的超大女主人设。 6park.com除了年纪轻轻就被委以重任之外，她还自带「反大科技公司」光环出道。 6park.com2017年，还在读书的莉娜·可汗在《耶鲁法学杂志》发表文章《亚马逊的反垄断悖论》，在法律界和政界引发巨大反响。 6park.com她曾在众议院司法委员会反垄断小组担任法律顾问一职，帮助撰写了一份449页的报告，指控亚马逊、苹果、Facebook和谷歌滥用市场主导地位。 6park.com所以在她被任命为FTC主席不到一个月后，谷歌和脸书就请愿FTC，让她回避针对科技公司的反垄断诉讼。 6park.com 6park.com这两家富可敌国，在硅谷呼风唤雨的科技巨头，是发自内心的害怕这位新上任的领导，担心真的打不过，只能先请系统Ban了她。 6park.com 6park.com可以想象，只要她还在任上一天，大型科技公司的日子就不会太好过。 6park.com而OpenAI因为现在「硅谷当红炸子鸡」的身份，作为初创公司就被FTC盯上，可能也算是对他们地位的一种另类肯定吧。 6park.com 6park.com网友反应 6park.com
6park.com在Altman稳定军心一般发了三条推特以后，底下网友众说纷纭。 6park.com
6park.com不过大致一扫过去，基本全是痛批Altman的。难道真是「天下苦OpenAI久矣」？ 6park.com比如下面这位网友，这都算委婉的了。 6park.com「我知道你想让用户满意你的产品，但你的技术是你自己整的，怎么用也是随你心意来的。我觉得你得坦诚一点，承认你个人能比用户接触到多得多得多的模型。」 6park.com「你的坦诚，很重要。」 6park.com 6park.com这位网友更直白，估计都能给Altman直接干沉默。 6park.com「我每天都用GPT，我怎么没觉得你维护用户的权益了？又没得到我们的同意，又收集信息，你怎么敢说自己在维护权益的啊？」 6park.com 6park.com下面这位网友直接开启阴阳： 6park.com「多新鲜！一家公司，嘴上说着嗯嗯嗯我们绝对遵守法律，实际上用户信息全给泄露了，信你个鬼啊。你OpenAI是真棒。」 6park.com 6park.com「如果Altman说那一套AI安全性的说辞只是为了他自己的话，我是不会听的。」 6park.com 6park.com不过也有站OpenAI的网友，表示对监管者很不放心，担心他们根本就没能力把这个事情管好。 6park.com 6park.com担心那些带着偏见的监管者没有办法真的有效地进行监管。 6park.com 6park.com这位网友更是看热闹不嫌事大，希望OpenAI把关键数据交给FTC后，再以某种形式泄露出来，最后完成对OpenAI的「开源」。 6park.com 6park.com最后这条评论想必说出了很多人的心声。虽然那份CID看着专业，但是FTC可能还是没有足够专业的人员来跟进。 6park.com哪怕是评估OpenAI的回答，可能都费劲。 6park.com这是很有启发意义的——专业的立法「能且仅能」被专业人士搞定。 6park.com而看样子，这位网友对FTC并没什么信心。 6park.com美国联邦贸易委员会在这封民事调查要求信函中提出了数十个问题，包括该公司的营销活动、训练AI模型的做法以及对用户个人信息的处理。 6park.com
6park.com资料图：ChatGPT。 6park.com另据《华盛顿邮报》报道，美国联邦贸易委员会本周向OpenAI发出了一份长达20页的民事调查要求书，要求其提供有关如何解决与其人工智能模型相关风险的记录。这是迄今为止OpenAI在美国业务面临的最有力的监管威胁。 6park.com文件称，美国联邦贸易委员会正在调查OpenAI是否存在“涉及隐私或数据安全的不公或欺骗行为”，及是否存在“违反《联邦贸易委员会法》第5条、与损害消费者利益有关的不公或欺骗行为，包括名誉损害等”。 6park.com
6park.com当地时间2023年5月16日，OpenAI首席执行官阿尔特曼 (Samuel Altman) 出席参议院司法委员会下属的隐私、技术和法律委员会举办的听证会。 6park.com据报道，美国联邦贸易委员会还提到了在2020年3月被曝出的一个信息漏洞，该漏洞“允许一些用户看到其他用户聊天记录中的标题”，并且“可能导致在特定9小时窗口期内”看到其他用户的支付相关信息。 6park.com《华尔街日报》称，OpenAI的一名代表暂未回应置评请求。 6park.com美国联邦贸易委员会（FTC）正在对ChatGPT的开发者OpenAI展开调查，以了解该公司是否违反了消费者保护法。 6park.com 据悉，FTC向OpenAI发出了长达20页、类似于传票的民事调查要求，概述了调查重点。FTC拒绝对此置评。 6park.com FTC在文件中表示，调查重点是OpenAI是否“从事了不公平或欺骗性的隐私或数据安全行为”，以及是否“违反了联邦贸易委员会法案第5条，存在给消费者造成损害风险，包括声誉损害的不公平或欺骗性做法。” 6park.com 人工智能已成为美国国会关注的热点问题之一。议员们试图了解，在需要大量数据来训练的生成式人工智能时代，是否需要新法律来保护知识产权和消费者数据。FTC和其他监管机构强调，他们已经拥有追查人工智能造成损害的法律权力。 6park.com 这项调查也表明，FTC正在积极监督新兴技术。FTC主席莉娜·汗（Lina Khan）此前曾表示，FTC的一个重点目标是关注“前瞻性”和“下一代”技术。 6park.com 根据民事调查要求，OpenAI需要列出可访问其大语言模型的第三方，前十大客户或授权人，解释如何保存和使用消费者信息，如何获得信息来训练大语言模型等。调查还询问OpenAI如何评估大语言模型中的风险，以及如何监控和处理关于他人的误导性或贬损性言论。 6park.com 这项调查要求OpenAI提供该公司2020年3月披露的一个漏洞的信息。该漏洞“允许部分用户查看另一个活跃用户的聊天历史记录中的标题”，并“可能导致在特定九小时窗口内活跃的1.2%的ChatGPT Plus付费用户的支付信息泄露”。 6park.com 到目前为止，OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）的表现受到了美国国会的欢迎。议员们称赞他对于讨论这项技术，以及制定相关法律法规持开放态度。然而一些人工智能专家警告称，政策制定者也应该意识到，OpenAI在阐述其监管愿景方面有自己的动机，并敦促他们倾听不同的声音。 6park.com OpenAI尚未对此做出回应。 6park.comAI产业的旗帜OpenAI与美国新闻业的标杆美联社发布共同声明，宣布两家机构已经签订合作协议，涉及新闻资料库的授权和AI技术的合作。 6park.com（来源：美联社） 6park.com两家组织在一份联合声明中表示，这项协议授权OpenAI使用部分美联社的文本档案，同时美联社也将利用OpenAI的技术和产品专业知识，两家机构将共同考察生成式AI在新闻产品和服务中的潜在用途。 6park.com在公告中，美联社高级副总裁兼首席收入官Kristin Heitmann强调，生成式AI是一个快速发展的领域，对新闻业有着巨大的影响。同时美联社也坚决支持保护知识产权，确保内容创作者得到公平的报酬。新闻机构必须在“桌上”有自己的位置，才能确保这件事情能够发生。这样不论规模大小，所有新闻机构都能利用这项技术造福新闻行业。 6park.comAI企业在训练所谓大语言模型的过程中，会用到大量的数据，例如新闻文章、社交媒体聊天和书籍等大量内容，这也引发新闻组织、书籍作者、社媒平台对版权受到侵犯感到不满。上个月底，超过4000名作家联名向OpenAI、谷歌、微软、Meta和其他AI开发者的首席执行官们致信称，科技巨头们在构建聊天机器人时存在剥削行为，那些AI机器人“模仿并复述”他们的语言、风格和思想。 6park.com美联社并没有披露这份协议是否涉及具体的款项支付。根据另一家美国媒体AXIOS打探到的消息，美联社与OpenAI签订的是一份为期两年的协议，AI龙头将获得美联社1985年以后的报道数据库，以帮助其训练人工智能模型。两家公司目前仍在研究如何在后台实现共享的技术细节。 6park.comOpenAI总裁格雷格·布罗克曼也在社交媒体上转发了这条新闻，并表示OpenAI将帮助美联社探索AI技术的用例，同时也会在OpenAI系统中使用美联社的内容。 6park.com（来源：社交媒体） 6park.com虽然美联社成立至今已经接近180年了，但这家机构也是新闻行业里最早一批“吃AI螃蟹”的机构。 6park.com从2014年开始，美联社就开始使用自动化系统来报道上市公司财报，随后将这项技术扩展至体育赛事的前瞻和概述。美联社也在使用AI技术辅助转录新闻发布会等现场活动的音频和视频。今年5月，美联社的内容交付平台AP Newsroom上线一项AI搜索功能，可以根据描述性语言对搜索查询返回精确结果。
贴主:xiaochuliu于2023_07_14 6:15:08编辑
请点这里投票，“赞”助支持！