Независима гледна точка. Глобален контекст.

Технологии

AI слиза от облака. Edge го пуска на компютъра.

Microsoft представи Aion Instruct за локална работа в Edge. Моделът е общодостъпен, но уеб интерфейсите около него са на различни етапи на разпространение.

Microsoft Surface Laptop 7 — илюстрация на изчисления на устройството.
Архивна снимка: StrangeApparition2011 / Wikimedia Commons · Източник и права

Microsoft приближава нов малък AI модел до потребителя на браузъра. Представеният на 19 ноември Aion Instruct има 2,3 млрд. параметъра и заменя Phi-4-mini във вграденото предложение на Edge. Предназначен е за локална работа на съвместими компютри.

Идеята е ясна: избрани AI задачи да се изпълняват на устройството, вместо всяка заявка да изисква отдалечен модел. Това обаче не означава, че всяка AI функция на браузъра става изцяло офлайн, нито гарантира, че всеки сайт задържа всички данни на компютъра.

Един модел, различни етапи

Моделът е общодостъпен с отворени тегла. Prompt API остава в изпитателен режим origin trial, а Decisions API е експериментален преглед за разработчици в Canary и Dev. Тези обозначения са важни: наличният модел не прави всеки предложен интерфейс готов за всички сайтове и потребители.

Decisions API е предназначен за структурирани избори, а не за дълъг генериран отговор. На един сайт може да му трябва класификация или решение между варианти вместо абзац текст. Това е различна задача от молба към чатбот да напише обяснение.

При съвместимите устройства моделът се изтегля, когато подходяща функция за първи път го изисква. Потребителят може да изключи възможността и да премахне модела. Затова изискванията към устройството и първоначалното изтегляне остават част от работата дори когато последващото изчисление е локално.

Локално не означава без ограничения

Локалната обработка променя мястото на изпълнение. Тя не отменя въпросите за точността, съгласието и останалото поведение на сайта. Хибридната архитектура може да съчетава работа на устройството с облачни услуги. Реалното движение на данните зависи от конкретната реализация.

Твърденията за скоростта и качеството са оценки на Microsoft, а не независимо сравнение, представено тук. Съществената промяна е опитът малкият модел да стане възможност на самия браузър. Ползата ще зависи от избраните задачи и от ясното обяснение какво остава на компютъра.