5月底去了一趟旧金山,和一些华人AI科学家进行了交流,也参加了旧金山由GPTDao和微软联合举办的GenAI大会。这里输出一些收获。
- 一个华人科学家分享他们团队在做消费级设备(车载、手机)大模型的创业。苹果最近发布的Apple Intelligence也是类似的思路。之前陈天奇团队做的mlc-llm同样是在做这样的事情,再结合特斯拉的FSD也是基于Transformer的自动驾驶决策,这个方向还是很有机会的。但国内貌似很少听到类似的项目。
- Amino: 一家华人创办的VC公司。看到他们投的一家针对美国移民多这一特点的电商平台,每个国家的人进去看到都是来自这个国家的商品,这个估计只有美国是合适的。另外,他们也分享了目前硅谷还是创业者导向的,一个好的创业项目,需要投资人去争取。这家公司的创始人有个抖音号叫硅谷李师傅,在持续分享硅谷的一些东西。
- Meta AI:分享了Meta大模型方面的进展,印象比较深刻的是实时图像生成,可以边输入提示词,边生成图像。网址:https://www.meta.ai/?icebreaker=imagine
- Tesla:分享了他们在自动驾驶方面的进展。特斯拉的FSD不同于目前主流自动驾驶技术的是使用了基于Transformer的驾驶决策,通过使用保险公司大量驾驶分数好的司机的数据来训练这个模型,对比Waymo基于激光雷达,成本会低非常多。但受限于保密的原因,其他有干货的东西感觉不是很多。
- Nvidia: 分享了他们正在开发的多模态大模型。自己这次发现英伟达虽然主要精力在芯片,但其实也在大量地做各种AI模型层、应用层的尝试,包括后来在GenAI会议上Jim Fan讲的具身智能,这里有这个分享的总结:https://mp.weixin.qq.com/s/DF0GBx99vodq0dYM98iRFA%E3%80%82
- 听了Google科学家讲述Google在多模态大模型方面的进展。印象比较深的一点,就是现在业界对小公司的包容度大,对大公司包容度小,因此经常会放大谷歌的问题,某种维度上是不公平的。
- 硅谷的人才流动很频繁,没有什么绝对的技术壁垒,而且硅谷是没有竞业协议的。所以,OpenAI的优势并没有那么绝对。目前谷歌已经从OpenAI挖回来了不少大模型人才。
- 旧金山GenAI Summit 2024
- 硅谷这边各种小的应用都能支撑起一家创业公司,比如会场在用的otter.ai就是实时记录会议内容,和钉钉、飞书的闪记的功能是一样的。
- 华人团队做的天机阁AI测算,这个是我们公司比较关注的一个赛道,天机阁的应用体验做的很一般,但测算的体验确实不错。应该是有自己的专有数据的。
- Groq的AI加速芯片:在芯片层面提速的AI服务。这个之前贾杨青是质疑过其成本的。
- 贾杨青的Lepton AI是在做AI云原生,能够快速部署大模型应用。
- 合成数据对AI发展的重要性:随着现实数据逐渐被用完,需要大量的合成数据来训练模型,这方面目前还存在着很多挑战。
- 贾杨青分享中提到的理查德·萨顿教授的作品《痛苦的教训》中的一句话:"从70年的人工智能研究中可以得出的最大教训是,利用计算的通用方法最终是最有效的,而且差距很大。"
- 通用方法:在人工智能研究中,通用方法指的是那些可以应用于广泛问题的算法和技术,而不是专门为特定问题设计的解决方案。通用方法通常具有更广泛的适用性和更长的生命周期。
- 利用计算:这一点强调了计算能力的重要性。在过去的几十年中,计算机的处理能力和速度有了巨大的提升,这使得复杂的算法和大规模数据处理成为可能。
- 最有效的:萨顿教授指出,通用方法结合强大的计算能力,往往比特定问题的专用方法更有效。也就是说,使用计算能力来推动通用算法的发展,能够在更大范围内取得成功,并且效果更显著。
- 差距很大:这一点强调了效果上的显著差异。萨顿教授认为,通用方法相对于专用方法,其优势不仅仅是略胜一筹,而是有着明显的、显著的效果提升。
- 总的来说,萨顿教授的这句话提醒我们,在人工智能领域,应该注重发展那些可以广泛应用的通用算法,并充分利用现代计算技术的力量。这样的方法不仅更为高效,而且在各种不同的应用场景中都能表现出色。
- 美国对新事物的接受度没有那么高,因此Tesla在美国反而没有国内常见。不过,FSD在美国已经全面推行。打Uber的时候司机开启了FSD,整体感觉还是很丝滑的。
- 美国的油价挺高的,所以日本车在美国占用率很高,随处可见的也是丰田、本田这些车。
- Google的Waymo在旧金山随处可见,有同行的朋友有邀请码体验了一下,驾驶没有任何问题,基本和打普通出租车没有任何区别。但其改造一辆车的成本非常昂贵,后来听朋友说,由于特斯拉的RoboTaxi即将发布,Waymo的很多人都离职了。特斯拉的FSD目前看来才是未来的自动驾驶发展方向。