Microsoft випустила компактну модель ШІ Phi-3 Mini для смартфонів

Про це пише The Verge.

Phi-3 Mini має 3,8 мільярда параметрів (тобто, скільки складних інструкцій може зрозуміти модель), що робить її менш ресурсномісткою порівняно з великими мовними моделями, такими як GPT-4. Вона доступна на Azure, Hugging Face та Ollama.

За словами віце-президента Microsoft Azure AI Еріка Бойда, Phi-3 Mini є настільки ж потужною, як GPT-3.5, проте у меншому форм-факторі. Microsoft планує випустити також Phi-3 Small (7 млрд параметрів) і Phi-3 Medium (14 млрд параметрів).

Phi-3 Mini добре справляється з різними завданнями — від математики до програмування та академічних тестів на простих пристроях, таких як смартфони, і не потребує підключення до інтернету. 

Бойд пояснює, що Phi-3 навчалася за спеціальною "навчальною програмою", наслідуючи спосіб, яким діти вчаться з дитячих книжок. Для цього команда розробників створила понад 3000 спрощених навчальних текстів.

Видання зазначає, що порівняно з більшими аналогами, малі моделі AI часто дешевші в експлуатації та працюють краще на персональних пристроях, таких як телефони та ноутбуки. 

Проте, хоча Phi-3 і володіє загальними знаннями, він не може досягти рівня великих мовних моделей, натренованих на всьому інтернеті. 

Бойд каже, що компанії часто виявляють, що менші моделі, такі як Phi-3, краще працюють для їхніх користувальницьких програм, оскільки для багатьох компаній їхні внутрішні набори даних все одно будуть меншими. А оскільки ці моделі споживають менше обчислювальної потужності, вони часто набагато доступніші. 

Окрім Phi, Microsoft також розробляє інші компактні моделі AI, як-от Orca для математичних задач. Конкуренти також випускають подібні невеликі моделі для спеціалізованих завдань.

Додамо, що корпорація Microsoft оголосила, що їх новий штучний інтелект Copilot незабаром буде інтегрований безпосередньо в комп'ютери користувачів і зможе працювати не лише через інтернет.  Це означає, що наступне покоління комп'ютерів може бути випущене з вбудованим штучним інтелектом, але воно потребуватиме особливих процесорів для глибокого навчання, які можуть обробляти дані швидше, ніж будь-які наявні зараз.

Джерело фото: ua.depositphotos.com