Great talk, have been a huge fan of Scott Galloway recently

https://youtu.be/qEJ4hkpQW8E?si=lZ-uOEiPvgCpH1oQ

What a great interview. I haven’t finished watching it yet but from beginning I have a thought: right now is probably the worst time to do PhD/research in AI. It is probably an unpopular opinion.

Why? When I was applying for PhD last semester (I ended up not applying anywhere), I saw bunch of labs doing research in LLMs. I agree with Yann LeCun that LLMs have a huge problem: they lack essential capabilities for intelligent beings, such as understanding and reasoning about the physical world.

Yes, they can be great for replacing people in low stakes situations like customer assistance, or generating emails, etc. – that’s where bunch of startup ideas come from. But they rely solely on language as a medium for reasoning.

Think about your reasoning. Is everything you think about contains language? When you fill out your water bottle, and try not to overflow it, are you producing any language to guide this process? There is more vision and understanding of physics involved, rather than language. In fact, you would be able to do that even before you learn how to speak and understand language.

And there are more such problems with LLMs.

So going back to my take on doing PhD. If you do PhD in AI, I think it should be something in fundamentals of AI, physics informed neural networks, AI in science, etc. That’s where hype of LLMs is avoided (mostly), and that’s where the next step to AGI is.

https://youtu.be/5t1vTLU7s40?si=jYx-S0J1WWjGlluA

Great food for brain: https://writings.stephenwolfram.com

Большой респект моему профу по философии - классы уже давно закончились, а он продолжает нас обучать ... через email. Кстати, почитайте. Он очень грамотно всё объясняет.

В целом этот класс очень интересный, но настолько annoyingly painful, что ни любой CS курс который я брал настолько меня не з**бывал. Надеюсь проф меня не завалит в понедельник, и я смогу выпуститься.

Everything great is open source: https://fleuret.org/francois/lbdl.html

Одно из самых классных чувств – это не спеша просыпаться без будильника (rest day in gym), делать себе чашку кофе, открывать окно, и начинать работать. Целый день впереди на осуществление своих целей.

Кстати, вчера узнал, что Lehigh alumni могут присоединиться к Penn Club: https://www.pennclub.org/lehigh

Вау, первое впечатление: GPT-4o реально крутая модель. Больше всего удивляет скорость ответа.

https://openai.com/index/hello-gpt-4o/

Good read to build up on the previous post

https://openreview.net/forum?id=BZ5a1r-kVsf

Interesting article but not convincing argument though: LLMs may understand word meanings because we may not understand what the “meaning” itself is?

https://www.amazon.science/blog/do-large-language-models-understand-the-world

Сидишь, прогаешь, а за окном такая красота

В Нью-Йорке есть моя любимая кофейня – Blank Street Coffee. Недавно взял подписку на их «Regulars» membership. Стоит $17.99 в неделю, и каждые два часа можно без дополнительной платы брать любой кофейный напиток + идет 20% скидка на каждый последующий .

Очень выгодно. Если пить по чашке кофе каждый день, то это уже выйдет в $5.5*7=$38.5 в неделю без подписки.

If you beat this benchmark, you win $1M: https://arcprize.org/arc

Заканчиваю свою первую неделю в AWS. Буду работать над Amazon Q for Business🤩: https://aws.amazon.com/q/business/

Btw, Anthropic doing some great things

https://www.linkedin.com/posts/themza_new-introducing-a-brand-new-model-high-water-activity-7209557610633523200-QwtN

А вот ещё demo: https://youtu.be/A598ESCoC70?si=fFOx1gTwecnK9Zcy

И вот: https://youtu.be/rHqk0ZGb6qo?si=tQpQtV9MtznJ_4eg

That’s so geeky and cool

https://x.com/theprimeagen/status/1778234583219089822?s=46&t=Xqv-8tHUNkdwwhoJQlQOjQ