每日一看大模型新闻(2023.11.11-12)ChatGPT最近被微软内部禁用!GPTs新bug:数据只要两句提示词就能套走;8个国产AI大模型测评;中国电信:发布星辰语义大模型,可将设计成本下降

发布时间:2024年01月05日

1.产品发布

1.1中国电信:发布星辰语义大模型,可将设计成本下降95%

发布日期:2023-11-11

中国电信发布千亿参数星辰大模型- DoNews

主要内容:中国电信在2023数字科技生态大会上发布了多项产品、平台和技术更新,包括一站式智算服务平台“慧聚”、大模型星辰语义及十余个行业大模型、中国电信“天衍”量子计算云平台、5G焕新应用等。据报道,星辰语义大模型是中国电信自主研发的大型模型的升级版,参数量级从百万提升至千亿。升级后,该模型的幻觉抑制、外推窗口、交互体验和多轮理解等四大能力都有显著提高。此外,中国电信还发布了十余个行业大模型,覆盖了教育、医疗、旅游等多个领域。

2.技术更新

2.1北大&腾讯打造多模态15边形战士!语言作“纽带”,拳打脚踢各模态,超越Imagebind

发布日期:2023-11-12

北大&腾讯打造多模态15边形战士!语言作“纽带”,拳打脚踢各模态,超越Imagebind

主要内容:北大联合腾讯打造了一个多模态15边形战士!以语言为中心,“拳打脚踢”视频、音频、深度、红外理解等各模态。具体来说,研究人员提出了一个叫做LanguageBind的多模态预训练框架。用语言作为与其它模态之间的纽带,冻结语言编码器,然后用对比学习方法,将各个模态映射到一个共享的特征空间,实现多模态数据的语义对齐。使用这种方法,模型在5个数据集上的性能拿下新SOTA,在15个zero-shot检索等任务中取得了显著的性能提升,全面超越ImageBind、OpenCLIP

论文链接:https://arxiv.org/pdf/2310.01852.pdf

3.商业动态

3.1谷歌与人工智能初创公司Character.AI展开谈判

发布日期:2023-11-11

谷歌据称将对AI创企Character.AI投资数亿美元|Character.AI_新浪财经_新浪网

主要内容:计划投资数亿美元深化双方的合作,此次投资将进一步强化谷歌在人工智能领域的领先地位。

4.其他资讯

4.1 8个国产AI大模型测评

发布日期:2023-11-12

测评了8个国产AI大模型,差点崩溃……

主要内容:本次测评主要是从一个普通用户的角度,围绕用户体验(交互界面、响应速度、稳定性)、基础能力(理解、生成、逻辑、记忆)、多模态输出能力以及场景模型(支持的数量丰富度以及质量)作为测评方向,目的是帮大家找到更适合自己使用的大模型。

4.2 ChatGPT最近被微软内部禁用!GPTs新bug:数据只要两句提示词就能套走

发布日期:2023-11-12

ChatGPT最近被微软内部禁用!GPTs新bug:数据只要两句提示词就能套走

主要内容:近期,OpenAI最亲密盟友微软内部一度紧急禁用ChatGPT,网站上显示的理由正是:出于安全和数据方面的考虑,许多AI工具不再供员工使用。自定制版GPT上线以来,各路大神分享自己GPTs整活链接。结果有网友一个不小心竟扒出了其中某个GPTs背后知识库文件,里面各种科技大厂职级薪资的数据直接曝光。这一系列事件说明,目前“隐私”“数据安全”这个议题还需要继续深入研究。

4.3南洋理工提出新攻击方法,大模型陷入集体“越狱”!

发布日期:2023-11-12

大模型集体失控!南洋理工新型攻击,主流AI无一幸免_腾讯新闻

主要内容:最新研究显示,南洋理工大学等四所高校提出的大模型“越狱”新方法MasterKey导致主流AI模型失控。该方法成功率从平均7.3%暴涨至21.5%,攻击者利用大模型的学习能力,让其掌握“诈骗剧本”并自动编写提示词,诱导其他大模型“伤天害理”。刘杨教授表示,现有的大模型护栏属于静态类型,难以防御不断变化的攻击手段,而MasterKey提供了一种“动态”护栏,能够更灵活地识别和防范潜在的攻击

文章来源:https://blog.csdn.net/liuxiuxiu3/article/details/135384360
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。