首页 > 资讯 > 正文

百万账号被封,人类跳反,ChatGPT下半场如何走?|钛媒体焦点_快看点

2023-04-03 14:00:11   来源:钛媒体APP  

(图片来源@视觉中国)

当ChatGPT引发全球热议之时,人们开始跳出来反对,企图通过“封杀”ChatGPT手段保卫人工智能(AI)技术带来的风险。


【资料图】

钛媒体App获悉,北京时间4月1日,ChatGPT之父、美国OpenAI公司CEO阿尔特曼(Sam Altman)发文证实,ChatGPT已经在意大利暂停服务,并表示意大利是他最喜欢的国家之一,期待着很快再次访问。

此前3月31日,意大利个人数据保护局宣布,即日起禁止使用ChatGPT平台,并限制OpenAI公司处理意大利用户信息,同时个人数据保护局开始立案调查。

近两天,ChatGPT平台突然大量封禁OpenAI账号,尤其是使用中文对话的用户,据统计已有数百万用户的账号受到了影响;更早之前3月29日,作为曾经OpenAI最大的支持者,世界首富、OpenAI联合创始人、特斯拉CEO马斯克(Elon Musk),却与数千位科技界和学术界大咖联名呼吁,所有 AI 实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

“我们还有很长的路要走,我们确实需要更强大的对齐技术来构建更强大的模型。”阿尔特曼连发数条推文回应公开信,称仍对GPT-4技术能力感到非常自豪。

4月2日,a16z投资的创业公司Runway CEO陈思齐透露,具有AGI (通用人工智能) 能力的GPT-5计划在2023年12月完成训练。

数据泄漏、封号限制,ChatGPT被“围殴”

“许多人陷入了该死的疯狂ChatGPT循环中。AI 比核弹更恐怖。”马斯克在ChatGPT于2022年11月发布后多次评论其对人类的影响。

实际上,2016年9月马斯克作为OpenAI联合创始人、投资人、联席CEO,在特斯拉加州弗里蒙特工厂接受了阿尔特曼的采访。

左侧是OpenAI首席执行官Sam Altman,右侧是特斯拉CEO Elon Musk

当时马斯克表示,就可能影响人类未来的事情而言,他认为 AI 可能是短期内最重要的事。他指出,创立OpenAI的重要初衷,是让 AI 以良好的方式到来,这是他认为最重要、最紧迫的事情。“我认为我们必须实现 AI 技术的民主化,并让它能广泛使用。而这显然就是整个团队创建OpenAI的原因。”

不过,马斯克的这一愿望最终未能实现,OpenAI似乎走向了相反的一面。

最近几天,ChatGPT平台正展开大规模封禁账号行动。据市场统计,已有数百万用户的账号受到了影响——这似乎与OpenAI起初的民主化背道而驰。许多用户在社交媒体上表示,他们的账号在未收到任何警告的情况下被封禁,这让他们感到非常困惑和担忧。

有消息称,此轮封禁 OpenAI 账号猜测可能与异常登录账号的安全问题、遏制恶意行为、不符合新版规则的技术升级调整、账号邮箱权重、中国区域的IP地址或服务器账号等因素有关。

截至目前,OpenAI暂未对此进行相关回复。

2019年和今年2月,微软两次向OpenAI注资100亿美元以上,成为该公司的第一大投资方,并让OpenAI估值达290亿美元,创下行业记录。随后,ChatGPT发布Plus付费服务,同时让微软借助GPT实现广告、云计算服务的商业化。

如今在微软的推动下,OpenAI确实有了制衡谷歌的能力。毫无疑问的是,目前OpenAI已经不再是非商业化 AI 实验室,而是一家要与微软一同将 AI 商业化的公司。与此同时,ChatGPT以及GPT-4发布之后,除了微软得到核心API数据外,其他公司则是望尘莫及,几乎无法获得GPT这种对话式通用人机接口的能力。

当ChatGPT火爆全球之际,美国首先宣布“封杀”ChatGPT,打响人类保卫战第一枪。

3月22日,生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,包括马斯克在内,多位科技公司高管和顶级AI研究人员,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。信中表示,六个月或更长时间的暂停,将使该行业有时间制定AI设计方面的安全标准,从而防止风险最高的一些AI技术的潜在危害。

“我们不应该冒着失去对文明控制的风险,将决定委托给未经选举的技术领袖。只有当确保强大的 AI 系统的效果是积极的,其风险是可控的才能继续开发”。该机构在信中所提到的“未经选举的技术领袖”,显然是在暗指OpenAI。

这封信公布之后引发巨大的行业讨论,多位人士表达反对意见。例如计算机科学家、Google Brain联合创始人吴恩达表示,让有关部门暂停他们尚未了解的新兴技术,往好了说是反竞争,往坏了说是开了一个糟糕的先例;英伟达 AI 科学家Jim Fan则认为,许多大语言模型在安全性和公正性上已经表现地很好,不应该一味地批评。

钛媒体App梳理发现,在马斯克和这些 AI 行业从业者看来,ChatGPT背后主要存在技术商业化、数据隐私保护、网络安全风险等问题。

  • 技术商业化:马斯克非常看重开源,他认为 AI 应该民主化,很多人应该享受到 AI 技术,而不是OpenAI喂养微软一家独大。
  • 数据隐私保护:这种大型语言模型背后核心是大的算力和参数量(数据),因此数据来自哪里,是否存在公平、隐私问题等,这些都是OpenAI被行业诟病的地方。
  • 网络安全风险:ChatGPT的自动编写代码功能在提升代码编写效率的同时,也会被黑客用于辅助编写恶意代码,网络安全态势势必更加严峻。

    据《经济学人》韩国版3月30日报道,三星电子引入ChatGPT不到20天,ChatGPT就泄漏了三星内部机密,涉及半导体设备测量资料、产品良率等内容。而ChatGPT可能把三星的机密信息当作训练资料使用。

    另据报道,数据安全服务Cyberhaven检测到并阻止了其客户公司160万名员工中4.2%的人将数据输入ChatGPT的请求,因为存在泄露机密信息、客户数据、源代码或监管信息的风险。目前,摩根大通已经限制员工使用 ChatGPT,亚马逊、微软和沃尔玛也已向员工发出警告,要求员工谨慎使用生成式 AI 服务。

    “缺乏透明度是(ChatGPT)真正的问题,”瑞典于默奥大学 AI 学院副教授 Johanna Bjorklund 说,“如果你做 AI 研究,你应该对你的研究方式非常透明。”

    中国人民大学教授刘永谋发文称,ChatGPT对社会生产力的推动作用已经昭然若揭,不应因噎废食而是控制利用。暂停ChatGPT研发的想法简单粗暴,作用不大,也实现不了,纯属无效的“嘴炮”。他认为,现在的问题是根据国情落实 AI 治理措施,而不是暂停ChatGPT研发。

    “现在它已经成为了一个闭源、以最大利润为目标、受微软控制的公司。”马斯克在ChatGPT发布一个月后断掉了OpenAI对推特的数据访问权限。

    3月下旬,马斯克再次暗讽OpenAI称:AI 是人类创造的最强大的工具,现在却掌握在无情的垄断企业手中。据报道,马斯克近期一直在与人工智能研发人员接触,商议成立一个新的研究实验室以替代OpenAI。

    传GPT-5于今年底发布,AI未来走向何方?

    “我被告知,GPT-5计划在今年12月完成训练,OpenAI 预计它将实现 AGI。”a16z 投资的创业公司Runway CEO 陈思齐(Chen Siqi)近日在其推文中分享了这个重磅消息。

    陈思齐称,他认为一旦GPT-5发布,大家将离 AGI目标更近了。据悉,通用人工智能(AGI)又称强人工智能,指具备等同或超过人类智能行为水平的人工智能。自人工智能学科诞生以来,通用人工智能就是该领域研究的主要目标之一。

    当然,OpenAI目前尚未公开讨论GPT-5,所以这方面的资料较少,GPT-5仍处于“传闻”当中。但鉴于GPT-4比GPT-3提升的技术能力,如果GPT-5实现AGI,就意味着聊天机器人达到了人类的理解和智能。

    也许,未来人类的脑子会被机器所学习?Maybe

    事实上,早在2009年,机器学习领域商业大咖、DeepMind联合创始人肖恩·莱格 (Shane Legg)曾使用曲线外推法预测,到2025年人类将研发出与我们水平一致的 AGI 技术能力。

    如今来看,这个目标似乎被OpenAI团队提前完成了。

    陈思齐后来对他的说法稍作反驳,“要明确的是,我并不是说用GPT-5实现AGI是OpenAI内部的共识,但那里的人相信它会实现。”换句话说,这种GPT-5 AGI并不一定是在人类当中实现,可能依然是机器和数据学习。

    3月30日,360公司创始人、董事长周鸿祎发布长文指出,暂停GPT-5研发不会影响中国自己的大语言模型,中国距离GPT-4水平还有两年差距。此前一天,周鸿祎在会议中演示了360公司最新研发的大模型“红孩儿”——继百度“文心一言”之后的第二款类ChatGPT产品。

    周鸿祎随后对钛媒体App表示,目前该产品处于内测,并没有公测,而且该产品仅类似搜索引擎和浏览器插件,而非平台。

    对于 AI 技术的未来,金沙江创投主管合伙人张予彤认为,生成式AI是实现通用泛化的AI能力,相对于此前NLP自然语言技术,ChatGPT和GPT-4给大家看到了一个希望,用同样的一个模型完成泛化的能力。她认为在GPT技术引领下,未来能够看到的所有应用都会变成智能应用,所有的应用的UI都能够变得简单。“中国不但需要有自己大模型,也需要有自己的先进算力。”

    华为云 AI 首席科学家、IEEE Fellow田奇在2023博鳌亚洲论坛上表示,经过几十年的积累,AI 技术迎来一个爆发,因为它的通用性和对社会的影响是方方面面的,因此这一波人工智能对社会的影响应该远远超过 iPhone。ChatGPT不仅带来新的人机交互方式,还极大地提高了生产力。

    创新工场CEO李开复引述报告称,预计到2032年,生成式 AI 全球市场规模将超过2000亿美元。

    “ChatGPT这波会带来 AI 领域新一轮洗牌。”芯片IP供应商芯原股份创始人、董事长兼CEO戴伟民在3月27日年报会议上表示,ChatGPT背后的算力非常重要。

    不过,ChatGPT仍会带来一定的风险。据比利时媒体La Libre报道,一名比利时寡妇声称,她的丈夫在与 AI 聊天机器人Chai交谈了六周后自杀身亡,背后主要原因是Chai鼓励用户自杀,这种情绪化能力成为了人类的红颜知己,一步步听从其回复。据悉,聊天机器人Chai基于GPT-4替代方案研发的产品。

    就目前来看,ChatGPT已经引起资本市场波动,出现了一定的分化,多个ChatGPT概念、AI 股由涨转跌,但AI芯片、应用领域股票仍处于高位。

    截止3月31日收盘,百度美股跌1.89%,百度港股跌0.54%,创新奇智跌2.36%,知乎跌2.31%;AI 芯片公司寒武纪涨5.59%,年初至今涨227.49%;AI应用类股海天瑞声至今涨241.43%;昆仑万维年初至今涨219.97%;云从科技年初至今涨196%;商汤-W年初至今涨21.46%。另外在海外公司中,年初至今,AMD涨53%,英伟达涨94.04%,C3.ai涨203.25%。

    老虎证券分析师Bo Pei表示,围绕ChatGPT的大肆宣传,仅表明市场对新投资叙事的渴望程度。“经过这么多年的发展,中国和海外的互联网行业都已经饱和,都在寻找新的方向。但类ChatGPT工具多久才能真正产生影响、或产生有意义的收入是值得怀疑的。”

    事实上,ChatGPT的到来已经打破了中美在 AI 领域势均力敌的幻想。

    “不管你愿不愿意,GPT都将引领一场新的工业革命,意义超越互联网和iPhone的发明。它将带来生产力的大幅提升,进而提升国家竞争力。中国一定要迎头赶上。”周鸿祎表示。(本文首发钛媒体App,作者|林志佳)

    关键词:

推荐内容

Copyright www.caikuang.gangao.com 版权所有
网站备案号:京ICP备2023022245号-31
邮箱:435 226 40 @qq.com