1、李飞(fei)飞(fei)谷歌联合发布(bu)AI视频扩(kuo)散模型W.A.L.T

2、马斯克(ke)Grok出(chu)现幻(huan)觉 自称是OpenAI产品

3、OpenAI联创10年(nian)前(qian)论文获NeurIPS 2023时间(jian)检验(yan)奖

4、法(fa)国AI创(chuang)企Mistral估值达20亿美元

5、Mistral AI发布专家混合模型Mixtral 8x7B

6、Runway宣布(bu)开展通用世界模型研(yan)发

7、微软与美国劳联-产联合作(zuo) 确保AI为工人服务

8、网(wang)信办:整治AI生成虚假短视频内容

9、阿里云(yun)前首席安(an)全科学家(jia)创业个人(ren)AI计算机

10、京东前副(fu)总裁AI创企获(huo)科大(da)讯(xun)飞领投新融(rong)资

11、传华(hua)为云大模(mo)型(xing)核心成员顾晓韬加入智谱(pu)AI

12、零一万物(wu)再度澄清套壳争(zheng)议

13、社交平(ping)台Soul推出(chu)自研大模型SoulX

14、海(hai)通证券发(fa)布(bu)“泛海(hai)言(yan)道”金融大模型

1、李飞飞谷歌联合发布AI视频扩散模型W.A.L.T

今日凌晨,李飞(fei)飞(fei)的(de)(de)斯坦福(fu)团(tuan)队与谷(gu)歌联合(he)发布(bu)用(yong)(yong)于(yu)生成(cheng)(cheng)逼真视(shi)频的(de)(de)扩散(san)模(mo)型(xing)(xing)W.A.L.T,基于(yu)Transformer训(xun)练(lian)(lian)(lian)而(er)成(cheng)(cheng),支持文(wen)生视(shi)频、图生视(shi)频和(he)3D摄像机运(yun)动。据介(jie)绍,该方法有两个关键的(de)(de)设计,一(yi)是使用(yong)(yong)因果编码器,在(zai)统一(yi)的(de)(de)潜(qian)空(kong)间(jian)内联合(he)压缩图像和(he)视(shi)频,从而(er)实现跨(kua)模(mo)态(tai)的(de)(de)训(xun)练(lian)(lian)(lian)和(he)生成(cheng)(cheng);二是为了(le)提高记(ji)忆(yi)和(he)训(xun)练(lian)(lian)(lian)效(xiao)率(lv)(lv),使用(yong)(yong)了(le)为空(kong)间(jian)和(he)时空(kong)联合(he)生成(cheng)(cheng)建(jian)模(mo)量身定制的(de)(de)窗口注意力(li)架构。最后,团(tuan)队针对文(wen)本到视(shi)频的(de)(de)生成(cheng)(cheng)任务训(xun)练(lian)(lian)(lian)了(le)由三个模(mo)型(xing)(xing)组成(cheng)(cheng)的(de)(de)级联,包括一(yi)个基本潜(qian)在(zai)视(shi)频扩散(san)模(mo)型(xing)(xing)和(he)两个视(shi)频超分辨率(lv)(lv)扩散(san)模(mo)型(xing)(xing),能够以每秒8帧的(de)(de)速度生成(cheng)(cheng)分辨率(lv)(lv)为512*896的(de)(de)视(shi)频。

项(xiang)目地(di)址:walt-video-diffusion.github.io/

论文地址:walt-video-diffusion.github.io/assets/W.A.L.T.pdf

2、马斯克Grok出现幻觉 自称是OpenAI产品

近日有(you)多名(ming)网友反馈,马斯克(ke)xAI公司的(de)聊(liao)天机器(qi)人(ren)Grok出现(xian)“幻(huan)觉”问(wen)题。职(zhi)业黑客Jax Winterbourne在进(jin)(jin)行(xing)红队测试(shi)时(shi)(shi)发现(xian),当(dang)他要求Grok创建恶意(yi)软件时(shi)(shi),Grok会回复“我(wo)无(wu)法(fa)满足您的(de)要求,因(yin)为(wei)这(zhei)有(you)悖于OpenAI的(de)政策(ce)”,因(yin)此(ci)质疑(yi)Grok抄袭了(le)OpenAI的(de)代码库。对(dui)此(ci),xAI技术人(ren)员Igor Babuschkin回应道:“这(zhei)里的(de)问(wen)题是,网络(luo)上充满了(le)ChatGPT输出,因(yin)此(ci)我(wo)们(men)在使用(yong)大(da)量网络(luo)数据进(jin)(jin)行(xing)训练时(shi)(shi),不小心收集到了(le)其中一些。当(dang)我(wo)们(men)第一次(ci)注意(yi)到这(zhei)个问(wen)题时(shi)(shi),我(wo)们(men)感到非常惊讶(ya)。不管怎(zen)么说,这(zhei)个问(wen)题非常罕见。既然(ran)我(wo)们(men)已(yi)经意(yi)识到了(le),就会确保未(wei)来(lai)版本(ben)的(de)Grok不会出现(xian)这(zhei)个问(wen)题。别担(dan)心,Grok没有(you)使用(yong)OpenAI的(de)代码。”

但(dan)也有网友(you)对他说的“罕(han)见”提出质疑(yi)。博主@ideasthesia跟帖称:“只是为了给幻觉问题提供更多例(li)子,它可能并不像(xiang)你想象的那么罕(han)见。”并上传了一(yi)张截图(tu),当(dang)他问Grok世界上最强的大模型是什么时,Grok回答(da)是“xAI公司创建的GPT4”。

3、OpenAI联创10年前论文获NeurIPS 2023时间检验奖

今日,神经信息处(chu)理系统大会NeurIPS公布了今年的(de)获奖论(lun)文(wen),包括时间检(jian)验奖、两(liang)篇杰出(chu)论(lun)文(wen) 、两(liang)篇杰出(chu)论(lun)文(wen)亚军(Runner-Ups )、两(liang)篇优秀数据集和(he)基准论(lun)文(wen),其中大部(bu)分(fen)论(lun)文(wen)都围绕大型语(yu)言模(mo)型展(zhan)(zhan)开(kai)。获得时间检(jian)验奖的(de)是一篇10年前(qian)由谷歌团队发布的(de)论(lun)文(wen),作者包括现(xian)在的(de)OpenAI首席科学家Ilya Sutskever。NeurIPS称,该论(lun)文(wen)介(jie)绍了开(kai)创性的(de)词嵌入(ru)技术word2vec,展(zhan)(zhan)示了从(cong)大量(liang)(liang)非结(jie)构化文(wen)本(ben)中学习的(de)力量(liang)(liang),促进了标(biao)志着自(zi)然语(yu)言处(chu)理新(xin)时代开(kai)始的(de)进步,被(bei)引量(liang)(liang)超过(guo)4万次。

论文地址:arxiv.org/pdf/1310.4546

4、法国AI创企Mistral估值达20亿美元

据彭博社昨日报道,法国AI创企Mistral完(wan)成了新(xin)一轮(lun)4.15亿(yi)美(mei)元(yuan)融资(zi)(约(yue)合人民币(bi)29.8亿(yi)元(yuan)),本(ben)轮(lun)融资(zi)对(dui)该公司的(de)估值(zhi)约(yue)为20亿(yi)美(mei)元(yuan)(约(yue)合人民币(bi)143.5亿(yi)元(yuan))。该公司在周一的(de)一份声明中(zhong)称,本(ben)轮(lun)融资(zi)由(you)硅谷风险投资(zi)公司Andreessen Horowitz和初始支持者(zhe)光(guang)速创投(Lightspeed Ventures)牵头。Mistral由(you)来自谷歌(ge)DeepMind和Meta的(de)科学家(jia)创立,成立仅7个月,其(qi)最新(xin)发布的(de)专(zhuan)家(jia)模型在基准测评中(zhong)超越(yue)Llama 2,对(dui)标GPT-3.5。

5、Mistral AI发布专家混合模型Mixtral 8x7B

继上(shang)周(zhou)五突然开(kai)源8x7B模型(xing)但未作任何介绍(shao)后,今日,法(fa)国AI创企Mistral AI于官网(wang)宣(xuan)布正式发(fa)布该模型(xing),名为Mixtral 8x7B,是一个具(ju)(ju)(ju)有开(kai)放权重的(de)(de)高质量稀疏专家混合模型(xing)(SMoE)。据介绍(shao),该模型(xing)采(cai)用(yong)Apache 2.0许可,在大(da)多数基(ji)准测试中的(de)(de)表(biao)现都优(you)于Llama 2 70B且推理(li)(li)速度(du)快6倍,测评(ping)成绩能与GPT-3.5相媲美,甚至优(you)于GPT-3.5。Mixtral可以(yi)处理(li)(li)32k长度(du)的(de)(de)上(shang)下文,支持英语(yu)、法(fa)语(yu)、意大(da)利(li)语(yu)、德(de)语(yu)和(he)西班牙(ya)语(yu),具(ju)(ju)(ju)有强大(da)的(de)(de)代码生成能力。具(ju)(ju)(ju)体来说,Mixtral拥有467亿(yi)总参数,但每个令牌只使用(yong)129亿(yi)个参数。因(yin)此,它处理(li)(li)输(shu)入(ru)和(he)生成输(shu)出的(de)(de)速度(du)和(he)成本与12.9B模型(xing)相同。

同时,Mistral开(kai)放了第(di)一个(ge)(ge)平台服(fu)务的(de)测试(shi)版(ban),该平台目前提(ti)供三(san)个(ge)(ge)聊天端(duan)点(dian),用(yong)于根据文(wen)本指令(ling)生成(cheng)文(wen)本,还有一个(ge)(ge)嵌入端(duan)点(dian)。据介(jie)绍,前两个(ge)(ge)端(duan)点(dian)(mistral-tiny和mistral-small)分(fen)别(bie)使用(yong)Mistral 7B和刚发布(bu)的(de)Mixtral 8x7B;第(di)三(san)个(ge)(ge)端(duan)点(dian)(mistral-medium)使用(yong)的(de)是性能(neng)更高(gao)的(de)原型(xing)(xing)(xing)模(mo)(mo)型(xing)(xing)(xing),该模(mo)(mo)型(xing)(xing)(xing)目前仍在(zai)部署环(huan)境中(zhong)测试(shi)。

平台地(di)址:console.mistral.ai

6、Runway宣布开展通用世界模型研发

昨日晚间,AI创企Runway于官网宣布开(kai)展围绕通(tong)用世(shi)界模(mo)(mo)(mo)型(General World Models)的(de)长期研究工作,目(mu)(mu)标是(shi)表现和(he)模(mo)(mo)(mo)拟与(yu)现实世(shi)界中一致的(de)广(guang)泛(fan)的(de)互动(dong)(dong)。Runway称(cheng),其(qi)目(mu)(mu)前(qian)的(de)Gen-2等(deng)视频(pin)生成(cheng)系统可(ke)以看作是(shi)非常(chang)早期的(de)通(tong)用世(shi)界模(mo)(mo)(mo)型,对(dui)物(wu)理和(he)运(yun)动(dong)(dong)有(you)一定的(de)了(le)(le)解,但在处理复杂的(de)摄像机或(huo)物(wu)体运(yun)动(dong)(dong)等(deng)问题上仍有(you)困(kun)难。为了(le)(le)建立通(tong)用的(de)世(shi)界模(mo)(mo)(mo)型,Runway正在进(jin)行(xing)几项公(gong)开(kai)的(de)研究,包括生成(cheng)环境(jing)地图,在环境(jing)中导航和(he)交互,捕(bu)捉世(shi)界和(he)世(shi)界中居民(min)的(de)动(dong)(dong)态,建立逼真的(de)人类行(xing)为模(mo)(mo)(mo)型等(deng)。

7、微软与美国劳联-产联合作 确保AI为工人服务

据美通社报(bao)道,昨(zuo)日,微(wei)软宣布与(yu)美国劳工联合(he)会(hui)-产业工会(hui)联合(he)会(hui)(AFL-CIO)就AI和(he)劳动力(li)达成合(he)作协议。为(wei)确保AI为(wei)美国工人服务,将主要实现三个目标:1、与(yu)工会(hui)领袖和(he)工人分(fen)享有关AI技术趋(qu)势的(de)深度(du)信息;2、将工人的(de)观点和(he)专业知识纳入(ru)AI技术的(de)开(kai)发;3、帮助制定支(zhi)持一线工人技术技能和(he)需求的(de)公共政策。

8、网信办:整治AI生成虚假短视频内容

据网信中(zhong)国(guo)微(wei)信公众号(hao)今日(ri)发文,12月5日(ri),中(zhong)央网信办开展为期一个月的“清(qing)朗·整(zheng)治短视频信息内容(rong)导向不(bu)良问题”专项行动。其(qi)中(zhong)提到,集中(zhong)整(zheng)治技(ji)术(shu)生成(cheng)虚假短视频,包(bao)括使用AI等技(ji)术(shu)编造、拼接内容(rong),违法(fa)使用他人肖(xiao)像和声音进行人脸(lian)替换或人声合成(cheng),生成(cheng)虚假短视频。

9、阿里云前首席安全科学家创业个人AI计算机

企查(cha)查(cha)信息显示,今日,杭州云麓知道(dao)科(ke)技有(you)限(xian)公司发生企业(ye)名(ming)称变更,变更为“杭州半个(ge)(ge)宇(yu)宙(zhou)科(ke)技有(you)限(xian)公司”,同时(shi)企业(ye)人(ren)(ren)员发生重大变更,法定代表(biao)人(ren)(ren)、大股东从张宏变更为吴翰清。官网显示,KMind(半个(ge)(ge)宇(yu)宙(zhou))公司由(you)(you)前阿(a)里(li)巴(ba)巴(ba)研究(jiu)员吴翰清(道(dao)哥)联合(he)2名(ming)联合(he)创(chuang)(chuang)始(shi)人(ren)(ren)和13名(ming)创(chuang)(chuang)始(shi)团队成员于(yu)2023年创(chuang)(chuang)立,并于(yu)12月(yue)推出“半个(ge)(ge)宇(yu)宙(zhou)”操作(zuo)系(xi)统(tong),提供一个(ge)(ge)由(you)(you)kOS驱动(dong)的个(ge)(ge)人(ren)(ren)AI计算机给(ji)所有(you)普通用户使用,帮(bang)助(zhu)人(ren)(ren)们处(chu)理数(shu)(shu)(shu)据(ju)。KMind的使命是发明新型的个(ge)(ge)人(ren)(ren)AI计算机(PAIC,Personal AI Computer),打(da)破当代互联网大公司的数(shu)(shu)(shu)据(ju)垄断,让(rang)数(shu)(shu)(shu)据(ju)为个(ge)(ge)人(ren)(ren)、小微企业(ye)创(chuang)(chuang)造(zao)价值,最(zui)终实现自由(you)(you)、开放、共享、平等(deng)的AI互联网。据(ju)悉,吴翰清曾任阿(a)里(li)云首席安(an)全科(ke)学家、云盾负责(ze)人(ren)(ren),于(yu)今年5月(yue)从阿(a)里(li)离职,当时(shi)曾有(you)媒体报(bao)道(dao)称他将投身于(yu)AI短视频赛道(dao)创(chuang)(chuang)业(ye)。

半个(ge)宇(yu)宙官网地址(zhi):kmind.cn

10、京东前副总裁AI创企获科大讯飞领投新融资

据36氪报道,AI创企HiDream.ai近期完成(cheng)新一轮融资(zi),由科大讯飞(fei)创投(tou)(tou)基金(jin)领投(tou)(tou),将门创投(tou)(tou)等多(duo)家机(ji)构(gou)跟(gen)投(tou)(tou)。其中,上一轮投(tou)(tou)资(zi)的(de)(de)阿尔法公社、中喝大种子一号基金(jin)再(zai)次跟(gen)投(tou)(tou)。本(ben)轮融资(zi)将用(yong)于产(chan)(chan)品研发、电商场(chang)景的(de)(de)市场(chang)拓展(zhan)和(he)C端产(chan)(chan)品出(chu)海方向的(de)(de)发展(zhan)等。据悉,HiDream.ai由前京东集团副总(zong)裁、京东探索研究院副院长梅涛博士于2023年初创立,定位于围(wei)绕视觉(jue)方向,打造生(sheng)成(cheng)式多(duo)模态基础模型及应(ying)用(yong)。

11、传华为云大模型核心成员顾晓韬加入智谱AI

据(ju)AI科(ke)(ke)技(ji)评论(lun)今日报道,华为云大(da)模型(xing)团(tuan)队一核心(xin)技(ji)术骨干顾(gu)(gu)晓(xiao)韬近日将离职,加入智(zhi)谱AI。据(ju)悉(xi),顾(gu)(gu)晓(xiao)韬主要参与(yu)华为云的(de)(de)NLP与(yu)大(da)模型(xing)研发(fa)工(gong)作,是(shi)盘古大(da)模型(xing)的(de)(de)三个算法负(fu)责人之(zhi)一,负(fu)责预训练(lian)(lian),其(qi)他两人是(shi)负(fu)责监督微调的(de)(de)史(shi)佳欣与(yu)负(fu)责强化的(de)(de)朱(zhu)疆成。本(ben)科(ke)(ke)期间,顾(gu)(gu)晓(xiao)韬曾(ceng)进(jin)入清(qing)华大(da)学知(zhi)识工(gong)程(cheng)实验室做(zuo)科(ke)(ke)研实习,师从智(zhi)谱AI创(chuang)始人唐杰,做(zuo)数据(ju)挖掘(jue)、模型(xing)训练(lian)(lian)等方面的(de)(de)相(xiang)关研究。他参与(yu)了(le)清(qing)华大(da)学Aminer数据(ju)挖掘(jue)系统开发(fa)工(gong)作,并获得一项“基于人名的(de)(de)邮箱地址推(tui)荐方法及系统”的(de)(de)专利,而Aminer由唐杰主导(dao),也是(shi)智(zhi)谱AI起(qi)家的(de)(de)第一块(kuai)业务(wu)。

12、零一万物再度澄清套壳争议

据DoNews昨日(ri)(ri)报道,零(ling)一万(wan)(wan)(wan)物(wu)(wu)称,公(gong)司(si)内(nei)部经过几个(ge)周(zhou)的(de)(de)国际国内(nei)法律(lv)研(yan)判,已经确认完全不涉及套壳、抄袭(xi),并给出了(le)进一步的(de)(de)澄清(qing)。此(ci)前,向零(ling)一万(wan)(wan)(wan)物(wu)(wu)官(guan)方发(fa)邮件建议修改张量名称的(de)(de)Eric Hartford也(ye)于社交平台X上为(wei)其澄清(qing),称零(ling)一万(wan)(wan)(wan)物(wu)(wu)“没有在任何(he)事情上撒谎(huang),他们从零(ling)开(kai)(kai)始使用(yong)自(zi)己创建的(de)(de)数(shu)据集(ji)训练Yi,对开(kai)(kai)源领域的(de)(de)贡(gong)献(xian)是值得(de)赞扬的(de)(de)”。此(ci)外据零(ling)一万(wan)(wan)(wan)物(wu)(wu)微信公(gong)众号昨日(ri)(ri)发(fa)文,Yi-34B系(xi)列模(mo)(mo)型(xing)近期(qi)在斯(si)坦福大(da)学研(yan)发(fa)的(de)(de)大(da)语言模(mo)(mo)型(xing)评测AlpacaEval Leaderboard中(zhong),以(yi)94.08%的(de)(de)胜率超越(yue)Llama 2、Claude 2、ChatGPT等模(mo)(mo)型(xing),成为(wei)世界范围(wei)内(nei)仅次于GPT-4英(ying)语能(neng)力的(de)(de)大(da)语言模(mo)(mo)型(xing),并且是经由Alpaca官(guan)方认证为(wei)数(shu)不多(duo)的(de)(de)开(kai)(kai)源模(mo)(mo)型(xing)。同一周(zhou),在加州大(da)学伯(bo)克利分校主导的(de)(de)LMSYS ORG排行榜中(zhong),Yi-34B-Chat以(yi)1102的(de)(de)Elo评分,晋(jin)升(sheng)最新开(kai)(kai)源SOTA开(kai)(kai)源模(mo)(mo)型(xing)之列,性能(neng)表现追(zhui)平GPT-3.5。

模型地址:

huggingface.co/01-ai/

modelscope.cn/organization/01ai

13、社交平台Soul推出自研大模型SoulX

据(ju)新浪(lang)科技(ji)报(bao)道(dao),新型(xing)社交平台Soul近日宣布上线自(zi)研语(yu)言大模型(xing)SoulX。据(ju)了解(jie),该模型(xing)基于海量(liang)数(shu)据(ju)训练,具备(bei)Prompt驱动、条件可控(kong)生成、上下文理解(jie)、多模态理解(jie)等能力。在保(bao)证对(dui)话(hua)流畅、自(zi)然、具备(bei)情(qing)感(gan)温度(du)的同时,能覆盖百种细粒(li)度(du)风险类别,通(tong)过训练数(shu)据(ju)安全(quan)筛选(xuan)、安全(quan)SFT数(shu)据(ju)构(gou)造(zao)、RLHF安全(quan)对(dui)齐(qi)、推理拦截等策略来构(gou)建安全(quan)体系,保(bao)证了大模型(xing)的内容生产质量(liang)和安全(quan)性。

14、海通证券发布“泛海言道”金融大模型

据海(hai)通(tong)(tong)证(zheng)券微信公众号发(fa)文,12月10日,在第五届上(shang)海(hai)金融(rong)科技国际(ji)论(lun)坛智(zhi)慧金融(rong)平行论(lun)坛上(shang),海(hai)通(tong)(tong)证(zheng)券正式发(fa)布“泛(fan)海(hai)言(yan)道”大(da)模型(xing)。据介绍,“泛(fan)海(hai)言(yan)道”综合应用前沿大(da)模型(xing)技术,成(cheng)(cheng)功落地智(zhi)能(neng)问答(da)、智(zhi)能(neng)研(yan)(yan)报、智(zhi)能(neng)研(yan)(yan)发(fa)等业务(wu)场景(jing),可结合互联网检(jian)索(suo)引擎,为外部客户(hu)和内部员(yuan)工(gong)提供(gong)即时、高(gao)(gao)质量(liang)(liang)的问答(da)服(fu)务(wu);通(tong)(tong)过样例(li)示范学(xue)习(xi)能(neng)力,深(shen)度(du)解读、分析(xi)财报数据,生(sheng)(sheng)成(cheng)(cheng)研(yan)(yan)报初稿,为研(yan)(yan)究人(ren)员(yuan)提供(gong)专业可靠的写作服(fu)务(wu);可嵌入开(kai)发(fa)环境,快速识(shi)别(bie)开(kai)发(fa)人(ren)员(yuan)代(dai)码需求,支持多种编程(cheng)语言(yan),自动生(sheng)(sheng)成(cheng)(cheng)高(gao)(gao)质量(liang)(liang)程(cheng)序,为开(kai)发(fa)人(ren)员(yuan)提供(gong)高(gao)(gao)效研(yan)(yan)发(fa)服(fu)务(wu)。