IB资讯网

电脑版
提示:原网页已由神马搜索转码, 内容由www.itbear.com.cn提供.

全球首颗Transformer AI芯片Sohu发布:每秒处理速度达50万tokens

  时间:2024-06-26 12:17:51来源:ITBEAR编辑:茹茹发表评论无障碍通道

【ITBEAR科技资讯】6月26日消息,近日,Etched公司成功完成了1.2亿美元(折合人民币约8.73亿元)的A轮融资,这笔资金将被投入到全球首款专为Transformer架构设计的ASIC芯片——Sohu的开发与销售中。

Etched公司,这家由哈佛大学辍学生加文・乌伯蒂(Gavin Uberti)和克里斯・朱(Chris Zhu)创立、运营时间不足2年的初创企业,正以其独特的技术视角和创新力量,引领着人工智能硬件的新潮流。

据ITBEAR科技资讯了解,Sohu芯片的最大突破在于它直接将Transformer架构蚀刻到芯片中,从而实现了硬件与算法的深度融合。乌伯蒂透露,Sohu芯片采用了台积电的4纳米工艺,这使得其推理性能显著优于传统的GPU和其他通用AI芯片,同时在能耗方面也有更出色的表现。

在性能测试中,以Llama 70B为基准,Sohu芯片每秒能处理超过50万个tokens,这一速度为用户构建出了GPU无法实现的产品提供了可能。此外,Sohu还具备实时语音代理、毫秒级处理大量文本、强大的代码树搜索、并行比较多个响应、多播推测解码以及实时生成新内容等先进功能,为运行未来万亿级参数模型铺平了道路。

举报 0收藏 0打赏 0评论 0分享 23
 
 
更多>同类资讯
【ITBEAR科技资讯】7月24日消息,OpenAI公司近日宣布了一项内部架构调整。首席执行官山姆・阿尔特曼(Sam Altman)通过X平台透露,原本负责AI安全的主管亚历山大・马德里(Aleksander Madry)已被调岗至一个新职位,该职位主要聚焦于人工智能推理领域。在推文中,阿尔特曼兴
07-24
【ITBEAR科技资讯】7月23日消息,近期网络文学界掀起了一场关于AI版权使用的讨论风波,众多网文作家纷纷发帖声讨番茄小说在其签约协议中新增的“AI训练补充协议”。该协议要求作家们授权将自己的作品提供给平台的AI系统,以用于进一步的内容开发,此举遭到了广泛的反对
07-23
【ITBEAR科技资讯】7月22日消息,据橡鹿科技最新公告,该公司再获京东近 2 亿元战略投资并达成全面战略合作。这次合作将结合双方的AI技术和产业优势,共同推动“机器人+”产业的持续高质量发展。橡鹿科技计划利用这笔资金进一步扩大其AI炒菜机器人工厂的规模,旨在全面
07-22
【ITBEAR科技资讯】7月20日消息,ElevenLabs于昨日(7月19日)通过博文向世界宣布,他们已成功推出全新的Turbo v2.5文本到语音AI模型。这款新模型支持包括普通话在内的32种语言,覆盖了全球近80%的地区,为用户提供高品质、低延迟的AI对话体验。Turbo v2.5模型的一个显著
07-20
【ITBEAR科技资讯】7月19日消息,OpenAI今日正式推出了全新的AI模型“GPT-4o mini”,旨在进一步拓展其聊天机器人的应用范围。据OpenAI方面介绍,GPT-4o mini凭借其强大的功能与优越的成本效益,被誉为当前最顶尖的小型模型。未来,OpenAI还计划将图像、视频和音频功能
07-19
【ITBEAR科技资讯】7月19日消息,商汤科技在智能汽车领域取得了重大突破。商汤科技联合创始人、首席科学家王晓刚在17日宣布,商汤绝影已成功在行业内率先实现原生多模态大模型的车端部署。这一创新技术的推出,标志着智能汽车在人工智能领域迈出了重要一步。据了解,商
07-19
【ITBEAR科技资讯】7月18日消息,近日,上海人工智能实验室揭晓了一场特殊的“高考”成绩,这场考试与众不同,因为它的参考者并非真实的学生,而是7个顶尖的AI大模型。这一评测的初衷在于探索当前大模型的真实能力水平,并寻找其可能存在的问题,以期推动技术的进步。据
07-18
【ITBEAR科技资讯】7月18日消息,据Axios报道,Meta公司近日在一份官方声明中透露,他们正计划推出一款先进的多模态Llama模型。然而,由于当前监管环境的不确定性,该模型将不会在欧盟地区发布。Meta在声明中明确指出,即便是在开放许可的情况下,欧盟的客户和公司也将
07-18
【ITBEAR科技资讯】7月15日消息,7月13日,第八届智慧农业创新发展国际会议在北京顺利召开。会上,中国农业大学隆重发布了“神农大模型 2.0”,标志着我国在智慧农业领域的技术创新迈出了重要一步。相较于先前的1.0版本,“神农大模型 2.0”在技术上实现了显著飞跃,特
07-15
【ITBEAR科技资讯】7月13日消息,据路透社今日报道,知名人工智能公司OpenAI正在积极推进一个代号为“草莓”的神秘新项目。该项目被视为去年11月宣布的Q*项目的延伸,旨在进一步提升人工智能的推理能力,以更接近人类的智力水平。报道中提到,“草莓”项目具备自主、高
07-13
【ITBEAR科技资讯】7月12日消息,人工智能领域的先锋OpenAI近期公开了一套全新的通用人工智能(AGI)五级标准体系,旨在为评估AI技术的进展提供一套明确的框架。据OpenAI内部高管透露,公司当前自我定位为处于这一分级体系的第一阶段,但正迅速向第二级迈进。通用人工智能
07-12
近日,2024世界人工智能大会在上海召开。期间,在中国移动数智服务创新论坛上,中移互联网有限公司副总经理庄仁峰介绍了基于超大AI应用基座打造的家庭守护产品——守护宝。该产品面向个人及家庭用户,提供智能位置守护、安全提醒和家庭防诈服务。日常生活环境复杂多变,
07-12
【ITBEAR科技资讯】7月10日消息,谷歌DeepMind的首席执行官戴密斯·哈萨比斯在近期表示,当前人工智能(AI)的 IQ 智力还没有达到猫的水平。在全球变革研究所举办的“2024年英国未来会议”上,哈萨比斯与英国前首相托尼·布莱尔共同探讨了AI的未来趋势。他直言不讳地指出
07-10
【ITBEAR科技资讯】7月10日消息,微软公司宣布了一项重要决定,即放弃在OpenAI董事会中的观察员席位。微软在一份官方声明中强调,OpenAI在过去八个月中取得了显著的“重大进展”,并对其未来的发展方向充满信心,因此不再需要该席位。据ITBEAR科技资讯了解,在一份写给
07-10
【ITBEAR科技资讯】7月9日消息,富国银行(Wells Fargo)近日发布了一项令人瞩目的预测,指出人工智能(AI)的电力需求将在未来几年内呈现爆炸性增长。据该银行预测,今年的AI用电需求已达到8太瓦时(TWh),而到2030年,这一数字将飙升至652 TWh,实现惊人的8050%的增长。富
07-09
全站最新
热门内容