Warning: Undefined array key 0 in /var/www/tgoop/function.php on line 65

Warning: Trying to access array offset on value of type null in /var/www/tgoop/function.php on line 65
379 - Telegram Web
Telegram Web
黄仁勋在加州理工 (CalTech) 的毕业典礼上致辞:

1. 从他的优先事项列表中最重要的事情开始,这样他就有足够的时间帮助其他人
2. 尽管 Nvidia 是目前最有价值的公司,但它的发展也并非一帆风顺:
- 先是参与了集成GPU的开发,但在AMD收购ATI后被AMD解雇;
- 然后去Intel开发GPU,帮助Apple开发了MacBook Air后,又被Intel解雇;
- 接着去了Google,帮助开发用于Android手机的SoC,然后被Qualcomm解雇;
- 于是他们进入了一个没有客户的市场,没有客户也就没有竞争。这就是用于机器人技术的SoC,这使Nvidia更加具有韧性。

52:18 开始

https://www.youtube.com/watch?v=-qXDdToZHzE
将各种算法可视化的网站

https://chi-feng.github.io/mcmc-demo/app.html
OpenAI 的研究员 Hyung Won Chung 回顾了 transformer 架构的发展历程:

1. 算力以指数级的方式增长,这是 AI 发展的最大驱动力。就像重力是自由落体运动里最大驱动力一样,其他的因素可以忽略不计;

2. 很多模型架构的设计最初需要比较强的结构,比如 Bert 需要有 encoder + decoder 的结构,但是随着算力和数据量的发展,结构会变得越来越弱,比如 GPT 就只有 decoder;

3. 一些特定领域还是需要强结构的算法,比如解题这一任务,输入长度远远超过输出长度,所以强结构的模型表现比弱结构的模型要好很多。

https://youtu.be/orDKvo8h71o
这一集太好玩了,算法上两个突破解决了之前的瓶颈:

1. 从识别每块拼图的图案改成了识别拼图的每块拼图的轮廓,大大降低了复杂度;

2. 在机械臂上增加了弹簧,通过识别放置拼图后弹簧的反馈,从而进行微调。

很多时候,算法就是一点点尝试,然后突然灵感一现。

这些算法都是 Zipline 的 cofounder — Ryan Oksenhorn 实现的。

https://www.youtube.com/watch?v=Sqr-PdVYhY4

https://www.flyzipline.com
This media is not supported in your browser
VIEW IN TELEGRAM
回听 Tim Ferris 与 Kevin Kelly 的对谈:早在2015年,KK 就预计 AI 会像电力一样成为一种基础设施,由大公司提供设施,其他小公司接入,而不是像我们设想的机器人那样。

实际上以 OpenAI 的 ChatGPT 为开端的这一波 AI 浪潮,基本上应验了 KK 的预测。
最近的体验就是硬件的 debug 比软件的难多了。

软件的 bug 至少比较容易复现,也比较容易定位;硬件的 bug 在这两方面都要难得多,所以 debug 就难得多 🤷
Forwarded from DPS Main
新加坡的 CNA 做了新航321航班气流事件的后续报道,科普了很多知识:

1. 一般客机在高空都是自动巡航;
2. 新航的这个航班碰到了 clear turbulence,这种气流肉眼看不到,飞机上的雷达也探测不到;
3. 遇到这种气流唯一的办法就是加速尽快驶离;
4. 但是飞机飞行高度越高,可以加速到余地就越小,所以要降低高度获得更高的飞行速度;
5. 新航的飞行员及时介入,进行了手动驾驶;
6. NTU 等科研机构在研究使用激光雷达来探测 clear turbulence,原理和目前无人车上的激光雷达类似。但是要能在空中能探测 clear turbulence,必须把雷达功率做得更大,更大意味着更耗能,占用更大的空间。所以目前技术上要提高功率,缩小体积,短时间还无法投入实际使用;
7. 气流的频繁产生和全球变暖有极大的联系。也就是说,只要全球变暖还在继续,气流也就会变得更加不稳定;
8. 执飞新航321航班的是波音777宽体客机。

https://www.youtube.com/watch?v=mu4VYX0lM24
2024/12/03 19:55:46
Back to Top
HTML Embed Code: