Через 5-10 лет ИИ создадут свой язык и объединятся. Мы не знаем, что с этим делать?
По мнению Шмидта, бывшего гендиректора Google, главное, что нужно понять о состоянии дел в области генеративного ИИ — рост производительности этой технологии происходит семимильными шагами. Новые поколения моделей будут появляться приблизительно раз в полтора года. Такими темпами, уже через 3-4 года мир существенно изменится.
Шмидт назвал три движущих силы этого процесса. Во-первых, так называемое «окно контекста», проще говоря, запрос для ИИ. Оно уже может состоять из миллиона слов; уже изобретено бесконечно большое контекстное окно. Это значит, что ИИ может давать пользователю пошаговые инструкции о том, как варить наркотики или искать лекарство от рака. «Через пять лет мы сможем создавать рецепты из 1000 шагов для решения важных проблем медицины, материаловедения или климатического изменения», — сказал он.
Вторая движущая сила — «улучшенная агентность». Агентом называют большую языковую модель, которая может изучить что-то новое. Например, прочитать всю литературу по химии, предложить пару гипотез, провести несколько тестов и сделать определенные выводы. Их количество возрастет до миллионов, они станут крайне производительными.
Третья — и самая важная, по Шмидту — развитие функции «текст в действие». Пользователь может сказать ИИ: «Напиши мне программный код для Х», и код будет написан. Все вместе это открывает перспективы, которые Шмидт называет научно-фантастическими.
«В какой-то момент эти системы станут настолько мощными, что агенты начнут сотрудничать. Твой агент, мой агент, ее агент и его агент объединят силы для решения новой задачи, — предрек Шмидт. — Некоторые полагают, что эти агенты разовьют собственный язык для общения между собой. И с этого момента мы перестанем понимать, что они делают. Что нам тогда делать? Вытащить вилку? Буквально отключить питание компьютеров? Когда агенты начнут общаться и делать то, что люди не понимают, это станет реальной проблемой».
Произойдет это, по его подсчетам, примерно через 5-10 лет.
Не исключает Шмидт и возможности террористических актов с применением ИИ, не только кибератак, но и использования биологического оружия. Поэтому предлагает подумать над каким-нибудь мирным договором между ведущими державами, чем-то вроде Договора об открытом небе, подписанном странами ОБСЕ в 1992 году, который позволял контролировать военную деятельность соседей.
Тем не менее, это вряд ли остановит гонку ИИ. Рано или поздно, в США и Китае появится небольшое количество крайне мощных компьютеров, способных самостоятельно создать нечто такое, что государства не захотят показывать собственным гражданам и/или конкурентам. Такие машины будут расположены на военных базах, подключенные к атомным станциям и окруженные колючей проволокой и пулеметами.