ШІ не знає мальовати

Зачати бы ся хотїло издалека. Аддека автор сиї публикації позирав кіно «Я, робот» (2004) из Вілом Смітом у головнӯв ролї. Тот філм є дуже слобӯднов адаптаційов єднойменої повістї Айзека Азімова. Дуже слобӯднов, бо из ориґіналної новелы быв узятый лишек концепт тай пара сцен, а історія выйшла домак инчака. Но кіно, руно так ги повість, розказовало за проблему, из котров мы ся зачинаєме добрі знати ужек дниьска у реалному світови — Штучный Інтелект (дале просто ШІ) тай што вӯн може.

За сужетом кіна стрїчаєме сцену, де головный герой, чилядник, бисїдує из роботом, надїленым ШІ. Исю сцену сьте може видїли у мемах, незалежно ци видїли сьте самоє кіно.

— Ци може робот написати симфонію? Ци може робот из дараба полотна учинити прекрасный образ?
— А ты можеш?

Прӯйшло лишек 20 рокӯв, тай мы уже знаєме удповідь на сись вопрос — «нєт, не може». Указало ся, ож ШІ, на тому етапови, на якому оно дниська екзістує, не може направду сотворити нич нового. Обы порозуміти чом ото так, треба нам раз порозуміти, як ШІ домак создає образы.

Як ШІ домак малює?

Направду сесе ся докыват не лиш мальованя, а созданя хоть-якого ґенератівного контента, айбо на образчиках тото кым май легко указати. Но та што ся дїє удну того хытрого механізма, кой ся го просите «намалюй ми Шрека у Матрицї»?

Штучный Інтелект є модел изкладеный из великого вороха даных на научіня. Руно так, гикой ся учат люди, учит ся и ШІ, провбуючи изкапчати помежи собов даякі понятя, создати лоґічні ланцы помежи дачим. Тота сістема пробує навчити ся спознавати залежитостї, патерны. Вертавучи ся до нашої звіданкы, ШІ буде мусїти порозуміти як вызиравут персонажі у кінови «Матриця», як мусят быти убраті, як будут стояти, што буде попиля них. Сесе усьо бере ся из матеріалӯв на научованя, котрыми сут образы из самого кіна. Руно так из Шреком. Значит модел ШІ буде провбовати, гикой ми ся видит, убрати Шрека у чорный плащ тай чорні околарі, айно? Олем попробуйме.

Обы сякоє стало реалностьов, та мусїли сьме тот ШІ треновати, мусїли сьме му указати доґде кіна, доґде образчика на інтернетови. У тому шорови были и фіґлї, опубликовані на шелиякых пріватных форумах, уєдно из образчиками из Вікіпедії тай дале. На благо для ШІ людська цивілізація годами ся старала обы наповнити інтернет адсими научными матеріалами. Айбо дуже недавно стало ся нечеканоє — тот такой інтернет наповнив ся матеріалами, котрі были зґенеровані ШІ…

Отрова

Як ся указало, в момент, кой у ворох матеріалӯв на научованя трафлят контент, котрый быв зґенерованый ШІ, та кваліта выходного матеріала читаво ся портит. Такоє, гибы ШІ не може ся учинити на матеріалах, зґенерованых ШІ. Поєдны изглядователї експеріментовали из сим, провбуючи учинити ланц залежности: ШІ наученый на реалных образчиках ґенерує дані, на котрых ся учит другый ШІ, котрый дає тоты матеріалы тритьому, тай так дале. Ужек на четвертому кругови зґенеровані образчикы сут домак не читабелні, утрачат ся гет композиція тай хоть-якый смысел.

Чом ся так стало, ож сотвореный ШІ контент отровлят базу на научованя? Чого з ним не може робити далшый ШІ?

Проблема якраз у тому, як сякі алґорітмы фунґувут. На образчикови у первому дарабови текста видиме Шрека, айбо кидь ся приникати, та стає ясно, ож сись Шрек не дуже точный. У нього чогось чотыри уха, ниє нохтюв на руках, персты домак заливавут ся у сорочку… Сесе не Шрек, а штось лиш подоброє на Шрека. Ипен ШІ сього доста, бо алґорітм глядат патерны, залежитости, котрі мож наподобити. Тай выйшло не пӯдло, сесе похожоє на Шрека. Айбо лиш похожоє.

Значит, кидь алґорітм натӯлко в общому нам ґенерує дашто, што є наученоє на реалных образах, та представте си, што ся буде дїяти на другому етапови, кой у ШІ в матеріалах на наученя сут лиш сякі криві зелені мутанты замісто ориґіналного Шрека? Провбы дале з того штось зкомпоновати будут щи май тяжкі, бо «творець» (ШІ) ниґда не видїв ориґіналный образчик, а видїв лиш розмащену подобу на ориґінал.

Сесе стає актуално днись, бо інтернет дуже актівно наповнює ся шелиякым контентом, котрый є зґенерованый ШІ, но не є маркованый. Значит далшый алґорітм, котрый буде збирати нову інформацію на тренованя далшого ШІ не буде знати нараз удрїзнити котрый контент быв сотвореный чилядником, а котрый — нє. Та обы усокотити сим проґрамам «здоровый розум» та мусиме зґенерованый контент даяк выдїляти, марковати.

Ци буде ШІ творити?

Та ци буде годен ШІ создати унікалну картину, направду новый филь умілства? Скорше нє, бо на даный момент побировали сьме алґорітм лиш провбовати наподобити чилядника, но не сотворити дашто новоє. Базы на тренованя ШІ ґрупувут из реалных даных сотвореных людми, обы ШІ мӯг притворити ся чилядником, но лиш притворити ся. ШІ не може сотворити нову варіацію пейзажа за возором, бо не має очи, обы тот пейзаж видїти. А фурт ся сполїгат на тото, як тот пейзаж уже видїли другі люди.

А головноє — ШІ не має свою волю, не прийде му дяка намальовати дашто своє, бо фурт лиш реаґує на наші команды, кой му кажеме «намалюй сесе». Тай бӯлшина читачӯв согласит ся, ож моментално исе є скорше добрі, ги пӯдло. Кіно «Я, Робот» указує нам скромный приклад того, што ся годно стати, кидь ШІ направду буде мати свою волю без людського контрола над ними.

Ися публикація не мірила даяк вас напудити небезпеков ШІ, ай лиш провказує, ож сяка технолоґія, хоть и має дуже читавый потенціал у специфічных сферах хоснованя, убстає ся читаво лімітованов у другых. Головно завто, ож мы ї нароком создали так, обы она лиш пробовала наподобити чилядника, а не была дачим инчым.

Выхосновані жерела: newscientist.com, futurism.com, «Self-Consuming Generative Models Go MAD»