Moonshot представи новия си AI модел Kimi K3.1 Pro с необичайно уточнение: компанията твърди, че умишлено е ограничила част от способностите му за хакерски задачи. Новата версия е достъпна през услугите на Kimi и API, а публикуването на пълните тегла на модела е планирано до 4 ноември.
K3.1 Pro е насочен към програмиране, работа с инструменти и по-дълги задачи, които изискват няколко последователни действия. Компанията обявява контекстен прозорец от един милион токена — обемът текст и други данни, който системата може да обработва в рамките на една задача.
По-интересната част от представянето е свързана с обучението. Moonshot посочва, че е премахнала съдържание за киберзадачи от определени етапи на подготовката, като е запазила общото обучение по програмиране. Целта ѝ е по-добрата работа с код да не води автоматично до същия ръст в способностите за атакуване на системи.
В собствен вътрешен тест компанията отчита 81% успеваемост за финалния модел срещу 90,5% за вариант без тези ограничения. Тестът измерва изпълнение на задачи, свързани с възпроизвеждане на софтуерни уязвимости в контролирана среда. Резултатите са фирмени измервания; те не представляват независима оценка на безопасността.
Този подход показва един от трудните въпроси пред разработчиците на AI: уменията, полезни за откриване и поправяне на слабости в софтуера, могат да се използват и за нападение. Ограничаването на едната употреба, без да се загуби другата, изисква повече от обща забрана в чат интерфейса.
Следващият важен етап е планираното публикуване на теглата. Тогава външни изследователи ще получат по-широка възможност да проверят как моделът се държи извън тестовете на разработчика.
