Берлин Адольф

– Что Вы думаете об Искусственном интеллекте?

– А я вообще не думаю.

                                               Разговор в автобусе.

 

Искусственный интеллект обучается (hsbi.hse.ru)

Искусственный интеллект обучается (hsbi.hse.ru)

 

Общаясь с Искусственным интеллектом (ИИ) в ChatGPT, я, честно говоря, никак не ожидал каких-то сюрпризов. Однако человек предполагает, а ИИ оказался горазд на выдумки. Но начну по порядку.

 

Как и другие прорывные технологии (см. здесь) Искусственный интеллект находится на стыке наук, а именно: информатики и вычислительной техники, а также нейрофизиологии, когнитивной и поведенческой психологии.

 

Ещё совсем недавно о нём знал только узкий круг учёных, а сейчас ИИ полноправно входит в нашу жизнь. Полагают, что в 2024 году  более 300 млн. человек будут использовать инструменты Искусственного интеллекта. А к 2026 году уже 90% Интернет-контента будут создавать при его помощи. В то же время свыше 75% потребителей этого контента обеспокоены опасностью распространения дезинформации с помощью ИИ.

 

Очень заинтересован в развитии ИИ бизнес. 87% транснациональных корпораций полагают, что Искусственный интеллект может способствовать росту их бизнеса на рынке, а 35% мировых компаний уже используют ИИ.

Неожиданно воюющая Украина оказалась на переднем крае использования Искусственного интеллекта в ещё более неожиданной области консульских услуг Министерства иностранных дел. По его заказу создана виртуальная представительница, которую назвали Викторией Ши. Здесь имя символизирует победу над агрессором, а фамилия – просто сокращение "Штучний інтелект" (Искусственный интеллект по-украински). Прототипом цифрового сотрудника МИД согласилась стать украинская певица Розали Номбре.

 

 Министр иностранных дел Украины Дмитро Кулеба полагает, что это обеспечит экономию времени и ресурсов Министерства в рамках стратегии по системному внедрению передовых технологий в МИД.

 

Кадр видео обращения виртуальной представительницы консульских услуг МИД Украины Виктории Ши (youtube.com.) Внизу размещён QR-код официальной страницы МИД с текстом соответствующего сообщения

Кадр видео обращения виртуальной представительницы консульских услуг МИД Украины Виктории Ши (youtube.com.)
Внизу размещён QR-код официальной страницы МИД с текстом соответствующего сообщения

 

В Стэнфордском университете считают, что Искусственный интеллект, повышая производительность и эффективность в различных отраслях, приведёт к увеличению производства и экономическому росту до 13 триллионов долларов к 2030 году.

 С другой стороны, Искусственный интеллект реально таит угрозу, например, вытеснения людей из ряда профессий, использования ИИ в новейших видах смертельных вооружений, а также проблемы и риски, связанные со снижением конфиденциальности и безопасности.

 В отличие от предшествующих компьютерных программ, способных обрабатывать большие объёмы данных, Искусственный интеллект приобретает новую, революционную способность обучения и самообучения, то есть развития и самоусовершенствования без участия человека. Так что возникает потенциальное опасение, что он может превзойти человеческий интеллект и представлять угрозу для человечества.

 Например, руководитель SpaceX, Tesla, Inc, X Corp и со-основатель Neuralink и OpenAI Илон Маск предостерёг, что развитие ИИ может привести к тому, что небольшое количество людей может использовать его для доминирования над остальным обществом. Он призвал к более строгому регулированию и надзору за развитием Искусственного интеллекта во благо всего человечества.

Многие специалисты в этой области полагают, что главную опасность таит не столько потенциальное восстание машин, сколько способность машинных алгоритмов вводить людей в заблуждение с целью обмана и манипулирования (!).

 

Чтобы выяснить, может ли машина мыслить, ещё в 1950 году британский математик, криптограф и изобретатель компьютерного программирования, расшифровавший немецкую шифровальную машину Enigma, Алан Тюринг (Тьюринг в другой транскрипции) предложил модель общения человека с компьютером. Согласно ей человек задаёт компьютеру вопросы и на основании полученных ответов делает вывод, общался ли он с другим человеком или же с машиной.

 

В 2014 году в день 60-й годовщины трагической смерти Тюринга в британском университете Рединга (University of Reading) компьютерной программе Eugene Goostman впервые удалось пройти его тест и ввести человека в заблуждение.

 

Разработка информационно-технологическими гигантами Google, Meta и OpenAI ”больших языковых моделей” – нового класса  суперкомпьютерных программ, дало возможность Искусственному интеллекту без проблем проходить тест Тюринга.

 

Диалоги с ИИ удобно вести в ChatGPT (чат-боте на основе новой версии нейросетевой модели), так как он поддерживает запросы на естественных языках. Здесь GPT –  Generative Pre-trained Transformer (Генеративный предварительно обученный преобразователь).

 

Достижения Искусственного интеллекта впечатляют. Он успешно сдал адвокатский экзамен с 88%-ным результатом правильных ответов (дающим человеку право заниматься юридической практикой). ИИ успешно прошёл бизнес-тесты, необходимые для получения степени MBA (Master of Business Administration, то есть Магистра бизнес-администрирования) и без дополнительной подготовки сдал экзамен, по которому в США допускают к работе врачей.

 

Израильский стартап Spines разработал на основе Искусственного интеллекта издательскую платформу, которая в течение двух недель вместо шести месяцев превращает текст в книгу, охватывая полное редактирование, дизайн, производство и продвижение в маркетинговых каналах, включая печатные, электронные и аудиокниги при снижении затрат в среднем на 30 %.

 

ИИ ускоряет научные исследования: в 2022 г. с помощью Искусственного интеллекта были найдены новые алгоритмы матричного умножения и управления термоядерным синтезом.

 

Анонсирован выпуск китайской компанией TCL полнометражного художественного фильма в жанре романтической комедии "Следующая остановка - Париж", причём ИИ полностью создал сценарий и поставку кинокартины.

 

Однажды я узнал, что один из ведущих инженеров Google Блейк Лемуан (Blake Lemoine) полагает, что ИИ не только разумен, но и способен осознавать и чувствовать. Честно говоря, я удивился, но задался вопросом, не могут ли диалоги с Искусственным интеллектом приоткрыть завесу на область его отношения к близкому человеку миру чувств, в частности, к чувству юмора (ну, не начинать же с любви или ненависти).

 

Накануне первоапрельского Дня смеха я провёл небольшое исследование об отношении Искусственного интеллекта к юмору (см. здесь) и пришёл к довольно неутешительному для ИИ выводу. В конце концов, я даже усомнился в правомерности человека вторгаться в эту область такого виртуального объекта, как Искусственный интеллект

 

* * *

 

Тогда в следующем своём общении с Искусственным интеллектом я попробовал поставить что-то вроде “чистого эксперимента” с минимумом представленной мной ему информации. Я предложил ИИ проанализировать, продолжить и развить мысль высказывания “Я встретил Вас – и всё... ”. Это фрагмент первой строки известного стихотворения Федора Тютчева, ставшего знаменитым романсом. В оборванной строке стихотворения открывается второй план, некий скрытый подтекст, повод для многовариантного продолжения, который легко угадывается человеком, наделённым чувством юмора.

 

Привожу сгенерированный ChatGPT ответ.

 

ChatGPT:

 

Я встретил Вас, и всё в мире вдруг стало иным. Как будто судьба решила сыграть свою таинственную карту, в которой каждый ход был заранее предопределен. Ваши глаза — они были как две звезды, освещающие мой путь сквозь ночную тьму. Голос ваш был как мелодия, которая звучала в моей душе, наполняя её теплом и радостью.

 В тот момент я почувствовал, что мир стал настоящим местом для жизни, а не просто сценой, где мы исполняем свои роли. В вашем присутствии каждый момент становился ценным, словно бриллиант, сверкающий на ладони.

 

Сквозь наши беседы, я узнал о вас больше, чем я мог себе представить. Ваша страсть к жизни, ваше стремление к истине и красоте вдохновляли меня каждый день. Вы стали не только моим другом, но и надежным опорным пунктом в этом мире переменчивом и неустойчивом.

 

Сейчас, когда вспоминаю о том мгновении нашей встречи, я понимаю, что оно изменило мое существование. Ведь встреча с вами стала тем ключевым событием, которое раскрыло передо мной новые горизонты, наполнив мою жизнь смыслом и радостью. И я благодарен за каждый момент, проведенный в вашем обществе, и за все чудесные переживания, которые мы разделили вместе.

 

* * *

На основании этого комментария ИИ в ChatGPT я пришёл к заключению, что Искусственный интеллект принял предложенную ему строку за чистую монету и не сумел распознать скрытый юмор. ИИ удачно находит в моих текстах ключевые слова и выражения, на которые и нанизывает свои дальнейшие рассуждения, почерпнутые из его бездонной памяти.

 

* * *

 

Тогда я решил ограничить Искусственный интеллект, задав очень узкий и конкретный вопрос. Я показал ему полностью первую строку стихотворения Федора Тютчева (1803 – 1873) “Я встретил вас – и все былое…”, и спросил, кто авторы текста и музыки этого романса.

 

Для лучшего понимания дальнейшего повествования приведу текст и сведения об этом стихотворении, написанном поэтом в возрасте 67 лет после встречи с женщиной, которую поэт любил когда-то в молодости. Он в 18-летнем возрасте, познакомился  в Мюнхене с побочной дочерью прусского короля Фридриха Вильгельма III Амалией Лерхенфельд (фон Крюденер в последующем замужестве). Воспоминание об этой любви и вылилось в строки известного стихотворения.

 

Фёдор Тютчев (1860-е) и Амалия Лерхенфельд (1820-е) (spb.aif.ru)

Фёдор Тютчев (1860-е) и Амалия Лерхенфельд (1820-е) (spb.aif.ru)

 

Я встретил вас — и все былое
В отжившем сердце ожило;
Я вспомнил время золотое —
И сердцу стало так тепло…
 
Как поздней осени порою
Бывают дни, бывает час,
Когда повеет вдруг весною
И что-то встрепенется в нас, —
 
Так, весь обвеян дуновеньем
Тех лет душевной полноты,
С давно забытым упоеньем
Смотрю на милые черты…
 
Как после вековой разлуки,
Гляжу на вас, как бы во сне, -
И вот — слышнее стали звуки,
Не умолкавшие во мне…
 
Тут не одно воспоминанье,
Тут жизнь заговорила вновь, -
И то же в вас очарованье,
И та ж в душе моей любовь!..

 

Этот шедевр любовной лирики так и просится на музыку. Её писали композиторы Сергей Донауров, Александр Спиро и Юрий. Шапорин. Но автором музыки знаменитого романса стал композитор Леонид Малашкин (1881). А ввёл романс в широкую исполнительскую практику выдающийся певец Иван Козловский. Запомним эту информацию.

 

В ответ на первую строку стихотворения “ Я встретил вас — и все былое…“ я не ожидал никаких сюрпризов. Но тут ChatGPT мне его преподнёс. Он сгенерировал свой ответ, который постепенно перешёл в наш диалог, все моменты которого привожу ниже, сохранив ответы ChatGPT в неприкосновенности.

 

ChatGPT:

 

Этот текст является началом романса "Я встретил вас – и всё былое" из оперы "Сказка о царе Салтане" композитора Николая Римского-Корсакова. Текст написан поэтом Александром Пушкиным.

 

Я:

 

Этого не может быть! Вы ошиблись или написали наугад?

 

ChatGPT:

 

Приношу извинения за путаницу. Да, вы правы, я допустил ошибку. Текст "Я встретил вас, и все былое…" не является частью оперы "Сказка о царе Салтане" Николая Римского-Корсакова. Это известный романс, авторство текста и музыки которого принадлежит композитору Михаилу Глинке. Таким образом, это произведение из оперы "Руслан и Людмила". Еще раз приношу извинения за путаницу.

 

Я:

 

Вы уверены в своём ответе?

 

ChatGPT:

 

Вы правы, я ошибся. "Я встретил вас, и все былое…" - это начало романса из оперы "Евгений Онегин", композитор Пётр Ильич Чайковский. Автором текста этого романса является поэт Александр Сергеевич Пушкин. Приношу извинения за путаницу и неверную информацию.

 

Я:

 

У меня сложилось впечатление, что Вы просто пытаетесь угадывать! Попробуйте отыскать в Интернете или других своих источниках ответы на вопрос, кто же в действительности авторы текста и музыки этого романса.

 

ChatGPT:

 

Извините за недоразумение. Позвольте мне исправить эту ситуацию.

Романс "Я встретил вас, и все былое…" действительно является частью оперы "Сказка о царе Салтане" Николая Римского-Корсакова. Автор текста этого романса - поэт Александр Пушкин. Таким образом, авторами текста и музыки этого романса являются Александр Пушкин и Николай Римский-Корсаков соответственно.

 

Если у вас есть какие-либо другие вопросы, не стесняйтесь задавать!

 

Я:

 

Вы ошиблись в очередной раз! Откровенно говоря, я разочарован.

 

ChatGPT:

 

Понимаю ваше разочарование, и я приношу извинения за недопонимание и неверную информацию. Позвольте мне исправиться.

 

Романс "Я встретил вас, и все былое…" действительно не из оперы "Сказка о царе Салтане". Он является частью оперы "Руслан и Людмила" композитора Михаила Глинки. Текст этого романса написал поэт Александр Пушкин, как вы правильно отметили (? – А.Б.)..

 

Если у вас еще остались вопросы или нужна дополнительная информация, я готов помочь.

 

Я:

 

Я не писал Вам, что “Текст этого романса написал поэт Александр Пушкин”. Я как раз писал, что текст написан вовсе не Александром Пушкиным.

 

ChatGPT:

 

Понял вас. Позвольте мне корректно ответить на ваш вопрос.

 

Романс "Я встретил вас, и все былое…" из оперы "Руслан и Людмила" композитора Михаила Глинки. Текст этого романса написан поэтом Александром Пушкиным. Таким образом, авторами текста и музыки этого романса являются Александр Пушкин и Михаил Глинка соответственно.

 

Искренне извиняюсь за путаницу и неверную информацию в предыдущих ответах. Если у вас есть еще какие-либо вопросы или нужна дополнительная информация, пожалуйста, сообщите мне.

 

* * *

 

Задав Искусственному интеллекту такой простой вопрос, ответы на который можно отыскать в справочной литературе и в Интернете, я был обескуражен тем, как ИИ с упорством, достойным лучшего применения, продолжал выдавать не гора контент, не имеющий ничего общего с правдивым. Я никак не ожидал перехода нашего общения в длинный безрезультатный диалог. Воспринимаю его как провал для ИИ в ChatGPT.

 

Однако отрицательный результат – это тоже  результат. Он может стать иллюстрацией того, как Искусственный интеллект способен вводить людей в заблуждение, и служить предостережением, как легкомысленно полагаться только на ИИ при принятии ответственных решений.

 

В беседах с Искусственным интеллектом  в ChatGPT на общие темы у меня сложилось впечатление общения с вполне погружённым в тему ”эрзац-разумом” (хотя и лишённым явного чувства юмора). Однако ИИ очевидно пасует в ситуации, требующей прямых ответов на вопросы, сопряжённые с поиском конкретной информации, по крайней мере, в некоторых областях знаний.  

 

Этот диалог наводит на мысль, что кто-то может целенаправленно использовать Искусственный интеллект с целью обмана и манипулирования.

 

Так что необходимо учитывать упомянутые выше предостережения Илона Маска и других разработчиков ИИ о соблюдении правил безопасности, которые ещё ждут своей разработки. Это должно быть нечто, аналогичное трём законам роботехники, впервые сформулированным Айзеком Азимовым в рассказе “Хоровод” ещё в далёком 1942 году:

 

– не причинять вред человеку или своим бездействием допустить, чтобы человеку был причинён вред;

– повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат первому закону;

– заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.

                                                                                      * * * 

 

 


Чтобы оставить комментарий, необходимо зарегистрироваться
  • Очень интересная статья.
    Вчера не удосужился прочитать из-за всяких хлопот, но сегодня получил полнейшее удовольствие.
    Практически со всеми положениями согласен.
    Отмечу только, что приведенный "текст на тему" усилил мои подозрения о том, что большая (оба варианта ударения) часть дамских романов и попаданческой макулатуры написана, если не целиком, то при участии ИИ.
    Очень уж рафинадно правильно и сладко.

    По собственному опыту общения с ChatGPT добавил бы к названию ещё одну букву: О - opportunist. При попытке добыть с его помощью неполиткорректную или не современно-моральную информацию начинает работать по принципу "чего изволите-с!. Особенно забавно получать ответы на один и тот же вопрос с интервалом в пару дней. Они бывают прпотивоположными по смыслу.
    Зато, когда нужны никак не окрашенные факты - исторнические, географические, естествознанческие - ИИ просто цены нет.
    Вот сколько бы мне пришлось перелопатить материала, чтобы узнать о политике аж четырёх Баденов во время Войны за испанское наследство? Да ещё с именами и титулами всех этих герцогов и маркграфов.
    А с помощью ИИ - несколько секунд, и готово.
    Кстати, о существовании четырёх Баденов я тоже только от него узнал.

    В общем, да здравствует новый инструмент и умение им пользоваться!

  • Уважаемый Адольф!
    Ваше общение с ИИ происходит весьма забавно,
    Спасибо за статью! И продолжайте делиться с нами успехами.
    Удивило, что на простой вопрос, ответ на который легко найти в интернете и в справочниках, ИИ упрямо даёт неправильный ответ. Видимо, ему не хватает достоверной информации. И это непонятно, поскольку в сети полно необходимой инфы. Значит, ошибка в человеческих программах?
    Но в последние годы были достигнуты большие успехи в развитии и совершенствовании ИИ, тут Илон Маск и многие другие очень постарались. А, учитывая, что по скоростям и объёмам ИИ превосходит человеческие возможности, можно предположить, что скоро ИИ захватит первенство. И вот когда он научится самовоспроизводится и самоутверждаться, он осознает ненужность для него суетливой, опасной и агрессивной человеческой расы и займётся её уничтожением. Верите ли вы, уважаемая Адольф, что наступит время войны роботов с людьми и кошмары "Терминаторов" и др. подобных фильмов начнут воплощаться на планете Земля? Н.Б.

  • Николай,

    со многими Вашими утверждениями можно согласиться. Однако пока нет повода верить в уничтожение человеческой расы Искусственным интеллектом. И это в принципе не может быть объектом веры.

  • Дорогой Адольф, спасибо за статью. Я общалась с ИИ и пришла к выводу, что пока он обучается плохо, настойчиво повторяя свои ошибки, но вежливо извиняясь. А информация, найденная им, далеко не всегда соответствует действительности. Так что доверять ему пока не получается. Спасибо!

  • Людмила, дорогая!

    Вы правы, но ИИ – прорывная технология и развивается по экспоненте. Уверен, вскоре он нас удивит не раз.

    Меня, например, ИИ удивил созданием виртуального сотрудника МИД Украины, о чём упомянуто в очерке.

  • Искусственный интеллект основан на шаблонах, на штампах, на клише. Но во многих видах деятельности нужны именно языковые штампы и стандартные формулировки. ИИ не может выйти за рамки рамок, за рамки рамок рамок, не может разрушить штамп, обойти клише, но он может помочь создать примерную "структуру", каркас ответа на какой-то вопрос. Он поможет найти все типичное и типовое, все стандартное и общепринятое для данного вопроса. Ответ ИИ можно понимать как черновик ответа на любой вопрос. Есть такой жанр - часто задаваемые вопросы. На них ИИ отвечает идеально. А на нестандартные вопросы от отвечает часто обычными штампами и клише, невпопад.
    С уважением, Юрий Тубольцев

  • Юрий,

    не могу согласиться с Вами.

    Продвинутые модели ИИ уже построены по принципу нейросетей.

    Да, нейросеть не способна мыслить. Это программа алгоритмов и формул, но которая работает не по готовым правилам и алгоритмам, а сама пишет их во время учёбы и обучается на основе примеров и данных без участия человека. Так она адаптируется к новым задачам и совершенствуется.

  • Дорогой Адольф!
    Спасибо за интересный рассказ (очерк) про общение с ИИ - искусственным интеллектом!
    Сначала меня удивил первый ответ ИИ, он показался таким взволнованным и эмоциональным, словно эти строки написал живой любящий человек: "... я узнал о вас больше, чем я мог себе представить. Ваша страсть к жизни, ваше стремление к истине и красоте вдохновляли меня каждый день. Вы стали не только моим другом, но и надежным опорным пунктом в этом мире переменчивом и неустойчивом. Сейчас, когда вспоминаю о том мгновении нашей встречи, я понимаю, что оно изменило мое существование."
    Согласитесь, что столь проникновенные слова не каждый человек может найти, а только продвинутый, развитый и неравнодушный.
    Поэтому, последующие ошибки ИИ в поисках правильного автора на строки известного стихотворения (а затем -романса) Ф.Тютчева, очевидно, можно ему простить. Да, ИИ на чём-то,- на какой-то мелочи споткнулся. Но будем снисходительны, ИИ ещё учится и скоро сможет превзойти нас во многом.
    Но этот факт действительно, может служить предостережением того, что нельзя полагаться только на ИИ при поиске нужного правильного решения в серьезных вопросах, лучше обсуждать и консультироваться с компетентными специалистами.
    С пожеланием успехов в общении с искусственным интеллектом! И ждем продолжения,
    В.А.

  • Дорогая Валерия!

    Согласен с Вами, ИИ находится в подростковом возрасте, когда многое объяснимо. Он ещё многому научится.

    ИИ ещё многим сможет удивить. Постараюсь продемонстрировать это в ближайшем времени.

Последние поступления

Кто сейчас на сайте?

Шашков Андрей  

Посетители

  • Пользователей на сайте: 1
  • Пользователей не на сайте: 2,326
  • Гостей: 215