Независима гледна точка. Глобален контекст.

Технологии

AI пише кода. Кой проверява?

Microsoft описва подхода си към мащабни промени в кода. По-бързото генериране оставя трудния въпрос — как се доказва, че резултатът е правилен.

Сграда 92 на Microsoft в Редмънд, 30 май 2016 г. Илюстративен архивен външен кадър.
Архивна снимка: Coolcaesar / Wikimedia Commons · CC BY-SA 4.0 · Източник и права

Microsoft публикува на 26 октомври описание на работата си с AI агенти за модернизиране на големи софтуерни системи. Сред примерите са миграция към друга компилаторна среда на кодова база от 400 милиона реда и прехвърляне на стари компоненти от C и C++ към Rust. Централният въпрос е проверката, а не просто производството на повече код.

Компанията описва съчетаване на автоматизираните промени с тестове, статичен анализ и формална верификация. Инженерите одобряват изискванията и решават непознатите случаи. Това е разказът на Microsoft за собствената ѝ работа, а не независимо заключение, че автоматичното пренаписване винаги е безопасно.

Една програма може да се компилира и въпреки това да работи различно в рядка ситуация. Успешните обичайни тестове са полезно доказателство, но сами по себе си не установяват запазването на всяко важно поведение. Затова качеството на проверките има същата тежест като количеството генериран код.

Формалната верификация може да доказва зададени свойства при определени допускания. Тя не премахва необходимостта да се прецени дали свойствата описват желания резултат. Математически проверен отговор на погрешно изискване пак би оставил практическия проблем нерешен.

За софтуерните екипи това означава преместване на усилието: по-бързото изпълнение увеличава стойността на ясните изисквания, независимите проверки и отговорното решение за пускане. Остава въпросът как увереността в резултата да расте толкова бързо, колкото промените, които агентите правят.