Альянс Цифровых Лидеров в стройке

Forwarded from ИИ и роботы в стройке

Как научить искусственный интеллект работать с внешними сервисами и сделать виртуальных помощников шустрее

Команда Yandex Cloud рассказала, как научить ИИ работать с внешними источниками данных

Языковые модели не обладают информацией о ситуации в мире прямо вот здесь и сейчас — они обучены на устаревших данных, благодаря чему умеют рассуждать, шутить и знают, кто построил Пизанскую башню. Но если вам нужно, чтобы модель отвечала на запросы ваших пользователей в режиме реального времени, то нужно подключить ИИ к внешним источникам данных. Так он узнает про мир в данную секунду и сможет рассказать об этом.

В Яндексе эта интеграция происходит благодаря Function Calling — языковые модели получают доступ к информации из баз данных и корпоративных систем — например, они знают все остатки на складе.

Как работает Function Calling
🟢 Function Calling соединяет языковую модель с сервисом через API. Та получает данные и отвечает на запрос пользователя простым языком. В Яндексе для обмена данными модели YandexGPT и LLaMA используют формат JSON Schema.

🟢 Модель не имеет доступа к сервисам по API напрямую, она обращается к данным через специально настроенные функции. Каждая функция определяет степень доступа, а для дополнительной защиты — например, при подтверждении платежа требуется подтверждение клиента.

🟢 Для работы с Function Calling существует набор удобных инструментов, упрощающих создание и внедрение решений на базе ИИ. Например, для построения последовательности действий или для поиска информации в интернете при ответах на запросы пользователей.

Как применять в девелопменте
Function Calling поможет сделать виртуальных помощников человечнее и проще. Так, пользователю не нужно формулировать запрос четко, достаточно написать «трешка, км от Садового, до 10 млн рублей» и получить ответ, что пора закатывать губу и чаще смотреть выступления Набиуллиной. Это шутка, но смысл вы поняли. Также Function Calling помогает облегчить поиск по корпоративным порталам знаний, а еще составлять отчеты и отображать их, например, в виде графиков.

Please open Telegram to view this post

VIEW IN TELEGRAM

www.tgoop.com/alliance_of_digital_leaders/4254

3.4K viewsFeb 19 at 12:20

Как научить искусственный интеллект работать с внешними сервисами и сделать виртуальных помощников шустрее

Команда Yandex Cloud рассказала, как научить ИИ работать с внешними источниками данных

Языковые модели не обладают информацией о ситуации в мире прямо вот здесь и сейчас — они обучены на устаревших данных, благодаря чему умеют рассуждать, шутить и знают, кто построил Пизанскую башню. Но если вам нужно, чтобы модель отвечала на запросы ваших пользователей в режиме реального времени, то нужно подключить ИИ к внешним источникам данных. Так он узнает про мир в данную секунду и сможет рассказать об этом.

В Яндексе эта интеграция происходит благодаря Function Calling — языковые модели получают доступ к информации из баз данных и корпоративных систем — например, они знают все остатки на складе.

Как работает Function Calling
🟢 Function Calling соединяет языковую модель с сервисом через API. Та получает данные и отвечает на запрос пользователя простым языком. В Яндексе для обмена данными модели YandexGPT и LLaMA используют формат JSON Schema.

🟢 Модель не имеет доступа к сервисам по API напрямую, она обращается к данным через специально настроенные функции. Каждая функция определяет степень доступа, а для дополнительной защиты — например, при подтверждении платежа требуется подтверждение клиента.

🟢 Для работы с Function Calling существует набор удобных инструментов, упрощающих создание и внедрение решений на базе ИИ. Например, для построения последовательности действий или для поиска информации в интернете при ответах на запросы пользователей.

Как применять в девелопменте
Function Calling поможет сделать виртуальных помощников человечнее и проще. Так, пользователю не нужно формулировать запрос четко, достаточно написать «трешка, км от Садового, до 10 млн рублей» и получить ответ, что пора закатывать губу и чаще смотреть выступления Набиуллиной. Это шутка, но смысл вы поняли. Также Function Calling помогает облегчить поиск по корпоративным порталам знаний, а еще составлять отчеты и отображать их, например, в виде графиков.