标签:人工智能

电力、芯片制造、数据和延迟成四大限制因素,Scaling Law能续到2030年吗?

近年来,人工智能模型的能力显著提高,计算资源的增长在其中扮演了重要角色。Epoch AI的研究报告显示,人工智能训练计算的增长速度甚至超过了历史上一些最快...

表格增强生成TAG登场:解锁AI自然语言与数据库的完美结合

机器之心报道了一项由UC伯克利和斯坦福大学的研究人员共同开发的新方法——表格增强生成(TAG,Table-Augmented Generation),旨在解决自然语言处理(NLP)在...

扩散模型做游戏引擎,单TPU 20 FPS模拟毁灭战士,谷歌最新GameNGen太博眼球了

在人工智能领域,谷歌的研究者们取得了重大进展,开发出了一个名为 GameNGen 的系统,这是第一个完全由神经模型驱动的游戏引擎。该系统能够在单个张量处理单...

深度学习还不如浅层网络?RL教父Sutton持续反向传播算法登Nature

研究使用了ImageNet数据集和神经网络,通过构建二元分类任务来模拟持续学习环境。实验发现,标准深度学习网络在连续任务中性能逐渐下降,最终接近线性基线。...

LLM取代的第一个编程语言竟是SQL?网友吵翻天

摘要:人工智能(AI)技术在编程领域的应用正逐渐深入,引发了一系列关于AI是否将取代程序员的讨论。一年前,AI专家Andrej Karpathy预言英语可能成为新的编程...

60万奖池,CV算法+大模型创新应用双赛道——2024无锡国际人工智能创新应用大赛正式启动!

大赛的算法赛道专注于无人机视角下的算法开发,参赛者需要使用Jittor框架完成相关算法的设计和实现。赛题包括重型机械识别和机动车检测两个方向,旨在通过人...

ACL主席:ACL不是AI会议

在泰国曼谷举办的 ACL 2024 大会上,ACL 主席 Emily M. Bender 发表了一份引起广泛争议的演讲。Bender 强调,ACL 作为计算语言学协会的年会,其核心是语言技...

加入谷歌25周年,Jeff Dean开启回忆杀:搬16次工位、掐点打咖啡

谷歌首席科学家Jeff Dean在加入谷歌25周年之际,通过推特分享了他在公司的早期经历和回忆。Dean是谷歌的早期第20号员工,于1999年加入,距离谷歌成立仅一年。...

Karpathy观点惹争议:RLHF不是真正的强化学习,谷歌、Meta下场反对

尽管如此,Karpathy也承认RLHF在构建LLM助手方面具有其独特价值,尤其是在利用人类监督的“容易度”差距方面。其他专家,如谷歌研究科学家Kevin Patrick Murphy...

八问八答搞懂Transformer内部运作原理

Sakana AI公司近期发表的论文《Transformer Layers as Painters》深入探讨了预训练Transformer模型中的信息流,并通过一系列实验,对仅解码器和仅编码器冻结...
1239