Radio Timur@radiotimur P.415

RADIOTIMUR Telegram 415

Если вы искали простое приложение, которое может запуститься на iOS и локально гонять для вас LLM (текстовую нейросеть), то тут на днях вышло очень красивое минималистичное приложение Full Moon, которое на данный момент позволяет запускать Llama 3.2 в версии на 1 млрд параметров и на 3 млрд параметров.

Приложение доступно и на iOS, и на iPad OS, и на macOS.
На iPhone 14 Pro 3-миллиардная моделька работает более менее шустро – ответ про Севилью она мне сгенерировала секунд за 10-15.
На M1 Max раз в восемь быстрее :)

Хорошая отправная точка для тех, кто не очень умеет пользоваться LM Studio, веб-интерфейсными решениями и прочими кастомами. Но самое главное – она гоняется локально, а потому будет работать даже тогда, когда у вас нет интернета.

PS. Можно задавать свои систем-промты и есть разбивка по чатам.

PPS. Не реклама!

https://fullmoon.app

www.tgoop.com/radiotimur/415

5.9K viewsJan 14 at 22:38

tgoop.com/radiotimur/415

Create: 2025-01-14
Last Update: 2025-02-24 01:49:33

Если вы искали простое приложение, которое может запуститься на iOS и локально гонять для вас LLM (текстовую нейросеть), то тут на днях вышло очень красивое минималистичное приложение Full Moon, которое на данный момент позволяет запускать Llama 3.2 в версии на 1 млрд параметров и на 3 млрд параметров.

Приложение доступно и на iOS, и на iPad OS, и на macOS.
На iPhone 14 Pro 3-миллиардная моделька работает более менее шустро – ответ про Севилью она мне сгенерировала секунд за 10-15.
На M1 Max раз в восемь быстрее :)

Хорошая отправная точка для тех, кто не очень умеет пользоваться LM Studio, веб-интерфейсными решениями и прочими кастомами. Но самое главное – она гоняется локально, а потому будет работать даже тогда, когда у вас нет интернета.

PS. Можно задавать свои систем-промты и есть разбивка по чатам.

PPS. Не реклама!

https://fullmoon.app

BY Radio Timur

Share with your friend now:
tgoop.com/radiotimur/415

Open in Telegram

Telegram News

Date: 2025-02-24|

To delete a channel with over 1,000 subscribers, you need to contact user support With Bitcoin down 30% in the past week, some crypto traders have taken to Telegram to “voice” their feelings. In the next window, choose the type of your channel. If you want your channel to be public, you need to develop a link for it. In the screenshot below, it’s ”/catmarketing.” If your selected link is unavailable, you’ll need to suggest another option. Today, we will address Telegram channels and how to use them for maximum benefit. Find your optimal posting schedule and stick to it. The peak posting times include 8 am, 6 pm, and 8 pm on social media. Try to publish serious stuff in the morning and leave less demanding content later in the day.
from us

Telegram Radio Timur
FROM American