Создан искусственный интеллект, который будет участвовать в конференциях за вас. Едва появившись на свет, он уже нарушает законы

Microsoft внедрила в свои офисные приложения помощника с искусственным интеллектом (ИИ), напоминающего по своим возможностям ChatGPT, - Microsoft 365 Copilot. Среди его возможностей - суммирование содержания встреч в Microsoft Teams, подготовка презентаций и восторженных ответов в почте.
В Microsoft утверждают, что это поможет снизить рутинную нагрузку на работников, однако уже раздаются голоса о том, что такой ИИ очень скоро сможет претендовать на замену многих работников собой.
Мало того, в его нынешнем виде этот ИИ может противоречить требованиям законодательства и ЕС, и Китая - о том, в частности, что при общении с искусственным интеллектом, человек должен сразу получать информацию о том, кто является его или ее собеседником.
Руководитель подразделения Microsoft 365 Колетт Столлбаумер (Colette Stallbaumer) заявила, что Copilot - это лишь инструмент, и что за ответственное его использование отвечает тот, кто им пользуется. «Я, быть может, не стану уточнять, что для подготовки ответа на ваш запрос я использовала ИИ-помощника. В этом уравнении всегда присутствует человек, и именно он все контролирует», - дополнила Колетт Столлбаумер.
Европейские регуляторы, однако, считают иначе: по их представлениям, эту задачу должны решать вендоры ИИ-технологий.
С технической точки зрения Copilot базируется на той же технологии, на которой и OpenAI ChatGPT, благо Microsoft инвестировала в нее миллиарды долларов.
Как пишет журналист BBC Зоуи Клайнман (Zoe Kleinman), Copilot оставляет двойственное впечатление: с одной стороны, это эффективный инструмент, а с другой - конкурентная опасность для многих офисных работников. В особенности в тех компаниях, которые стремятся сократить издержки.
Copilot с успехом справляется с такими задачами, как суммирование содержания длинной цепочки электронных сообщений, посвященных запуску (вымышленного) продукта, а затем предлагает короткий ответ. На все уходят секунды.
«Мы воспользовались простым выпадающим меню и проинструктировали чатбота написать более длинное и казуальное сообщение, и он сгенерировал очень теплый ответ с выражением восхищения высказанными в переписке идеями и радости от участия в проекте - хотя никто из нас не прочитал ни одного сообщения», - говорится в публикации BBC.
Предложенный роботом вариант можно было отредактировать или отправить как есть.
Никаких упоминаний о том, что основной контент был сгенерирован роботом, в письме не было.
Copilot также всего за 43 секунды подготовил многостраничную презентацию в PowerPoint на основе документа в Word. В качестве иллюстраций робот может использовать изображения в исходном документе или найти подходящие в собственной коллекции изображений (очищенных в плане копирайта).
Инструкцию сделать презентацию более яркой робот не понял.
Что же касается работы с Microsoft Teams, то здесь Copilot может не только суммировать сразу несколько тем, по которым производились высказывания, но и законспектировать слова одного конкретного пользователя, а также выделить главное в разгоревшемся споре, приведя основные аргументы обеих сторон.
На данный момент робот способен отличить спикеров только если они используют уникальные устройства каждый. Если за одним устройством - сразу два человека, то Copilot отличит, кто есть кто, лишь в том случае, если они называют друг друга вслух.
На вопрос к сотруднику Microsoft, не приведет ли использование этого робота к тому, что работники просто перестанут участвовать в подобных голосовых конференциях, тот отшутился, что тогда, вероятно, множество таких мероприятий превратятся в вебинары.
Критики разработки уже говорят о том, что он сильно изменит ситуацию с офисной и административной работой, а кроме того, может вызвать излишнюю зависимость людей от себя.
«Что случится, если в инструменте произойдет сбой или его взломают? - задается вопросом Карисса Велиз (Carissa Veliz), доцент Института этики искусственного интеллекта при Оксфордском университете. «Это может стать кратковременным сбоем, а может - причиной новых ограничений, которые вам не понравятся. Ну, и что будет, если вы поймете, что уже настолько привыкли к системе, что не можете без нее обходиться вовсе? Что тогда?», - продолжает Карисса Велиз.
По мнению генерального директора компании «Информационные технологии будущего» Дмитрия Гвоздева, одной из сложнейших проблем с искусственным интеллектом, о которой ученые и фантасты говорят на протяжении десятилетий является возможная «замена» человека машиной. «И хотя есть большой соблазн сравнить нынешнее положение дел с любой из предыдущих промышленных революций (а напуганных такой перспективой - с членами, например, луддитского движения), ИИ делает отличия довольно существенными», - развивает мысль Дмитрий Гвоздев. Он считает, что на этот раз машина избавляет человека не столько от физической, сколько от интеллектуальной нагрузки, а человек устроен так, что без нагрузки его органы и конечности быстро деградируют и мозга это тоже касается. «Сейчас, конечно, удобнее думать, что речь идет только о рутинных, монотонных и не требующих серьезных умственных усилий задач. Но, если гипертрофировать ситуацию, легко представить, что даже некоторыми базовыми навыками в общении (к примеру) следующее поколение офисных работников обладать просто не будет», - подытожил Дмитрий Гвоздев.
Copilot станет доступен пользователям Microsoft 365 с 1 ноября. Ежемесячная плата за него составит 30 долларов.