Регулировка стоимости и качества через «усилие мышления»

Регулировка стоимости и качества через «усилие мышления»

В модель встроен специальный параметр Thinking Effort, позволяющий гибко управлять бюджетом на вычисления. Для простых и массовых операций интенсивность рассуждений можно снизить, чтобы получить результат максимально быстро и дешево.

Для сложных задач, таких как написание кода или глубокая аналитика, уровень усилий можно поднять до максимума. Это реализует принцип Парето в автоматизации: большинство бизнес-задач не требуют мощности самых дорогих моделей на рынке, и Inkling позволяет закрывать их с минимальными затратами, сохраняя контроль над архитектурой решения.

Ссылка: https://thinkingmachines.ai/news/introducing-inkling/ @AIandproducts