Это правда что искусственный интеллект скоро станет таким же как человеческий
Может ли искусственный интеллект уничтожить человечество уже к 2035 году?
Британский физик-теоретик Стивен Хокинг считал, что создание искусственного интеллекта (ИИ) станет «либо худшим, либо лучшим событием в истории человечества». Еще в 2016 году ученый выступал за создание научной организации, главной задачей которой будет исследование перспектив искусственного интеллекта как «критически важного вопроса для будущего нашей цивилизации и нашего вида». Недавно исследователи в области криминалистики определили топ-18 угроз ИИ, о которых нам следует беспокоиться в ближайшие 15 лет. В то время как научная фантастика и популярная культура изображают гибель человечества от рук интеллектуальных роботов, результаты исследования показали, что главная угроза на самом деле имеет больше общего с нами, чем может показаться на первый взгляд.
Deep Fake – вот главная угроза, которую несет в себе ИИ
ИИ – это угроза?
Сегодня может показаться, что искусственный интеллект, представляющий угрозу для человечества – это удел научных фантастов и фильмов наподобие «Матрицы» или «Я-робот». Согласитесь, довольно сложно представить себе всемогущий и страшный ИИ, когда Siri не способна дать правильный прогноз погоды. Но Шейн Джонсон, директор Центра будущих преступлений Дауэса в Калифорнийском университете объясняет, что количество потенциальных угроз будет расти и они будут становится все сложнее и сложнее, переплетаясь с нашей повседневной жизнью.
По мнению Джонсона, чьи слова приводит Inverse, мы живем в постоянно меняющемся мире, который создает новые возможности – как хорошие, так и плохие. Вот почему так важно предвидеть будущие угрозы, в том числе рост преступности. Это необходимо, чтобы политики и другие заинтересованные стороны, обладающие компетенцией, могли выявить преступления еще до того, как они произойдут. Да, прямо как в фильме «Особое мнение» с Томом Крузом в главных ролях.
Хотя авторы работы, опубликованной в журнале Crime Science признают, что выводы исследования по своей сути носят спекулятивный характер и зависят от современной политической обстановки и технического развития, в будущем технологии и политика будут идти рука об руку.
Чтобы всегда быть в курсе последних научных открытий в области высоких технологий и не только, подписывайтесь на наш канал в Google News.
Кадр из фильма «Осбое мнение»
Искусственный интеллект и преступность
Для того чтобы сделать эти футуристические выводы, исследователи собрали команду из 14 ученых в смежных областях, семи экспертов из частного сектора и 10 экспертов из государственного сектора. Эти 30 экспертов были равномерно разделены на группы от четырех до шести человек и получили список потенциальных преступлений ИИ, начиная от физических угроз (например, автономная атака беспилотника) и заканчивая цифровыми формами угроз. Для того чтобы вынести свои суждения, команда рассмотрела четыре основные особенности атак:
Вред, в данном случае, может относиться к физическому, психическому или социальному ущербу. Авторы исследования далее определяют, что эти угрозы могут причинить вред, либо победив ИИ(например, уклоняясь от распознавания лиц), либо используя ИИ для совершения преступления (например, шантажируя людей с помощью deep fake — поддельного видео).
Хотя эти факторы на самом деле не могут быть отделены друг от друга, экспертам было предложено рассмотреть влияние этих критериев отдельно. Затем результаты команд были отсортированы, чтобы определить общие наиболее опасные угрозы со стороны ИИ в ближайшие 15 лет.
ИИ – диаграмма угроз
В отличие от роботизированной угрозы, способной причинить физический вред или повредить имуществу, deep fake способен лишить нас доверия к людям и самому обществу. Оценивая угрозы по вышеперечисленным критериям, группа исследователей определила, что deep fake — технология, которая уже существует и распространяется — представляют собой самый высокий уровень угрозы.
Важно понимать, что угрозы, которые несет в себе ИИ, несомненно, будут силой, с которой придется считаться в ближайшие годы.
Сравнивая 18 различных типов угроз ИИ группа определила, что видео и аудиоманипуляции в форме deep fake являются самой большой угрозой.
«Люди имеют сильную тенденцию верить своим собственным глазам и ушам, поэтому аудио и видеодоказательствам традиционно придавалось большое доверие (и часто юридическая сила), несмотря на долгую историю фотографического обмана», — объясняют авторы. «Но недавние разработки в области обучения (в том чтсле и deep fake) значительно расширили возможности для генерации поддельного контента.»
Авторы исследования считают, что потенциальное воздействие этих манипуляций варьируется от лиц, обманывающих пожилых людей, выдавая себя за члена семьи, до видео, предназначенных для того, чтобы сеять недоверие к общественным и правительственным деятелям. Они также добавляют, что эти атаки трудно обнаружить отдельным лицам (и даже экспертам в некоторых случаях), что затрудняет их остановку. Таким образом, изменения в поведении граждан могут быть единственной эффективной защитой.
Deep Fake – основная угроза ИИ
А что вы думаете по этому поводу? Ответ будем ждать здесь!
Мы обречены?
Нет, но у нас есть кое-какая работа. Популярные изображения угроз ИИ предполагают, что у нас будет одна красная кнопка для нажатия, которая может заставить всех гнусных роботов и компьютеры остановиться. На самом деле, угроза заключается не столько в самих роботах, сколько в том, как мы используем их, чтобы манипулировать и вредить друг другу. Понимание этого потенциального вреда и все возможное, чтобы опередить его в форме информационной грамотности и создания сообщества, может стать мощным инструментом против этого более реалистичного апокалипсиса роботов.
В будущем искусственный интеллект превзойдет человеческий разум — ЭКСПЕРТЫ
Глава Facebook Марк Цукерберг вступил в заочный спор с основателем Tesla и SpaceX Илоном Маском по поводу искусственного интеллекта. Цукерберг счел «безответственным» заявление Маска о том, что для человечества ключевой угрозой является именно виртуальный разум.
По мнению Цукерберга, попытки предсказать конец света из-за развития в будущем искусственного интеллекта не имеют под собой никаких оснований. Более того, в будущем искусственный интеллект сыграет только положительную роль, сделав жизнь человека лучше и проще.
Напомним, выступая на встрече Национальной ассоциации губернаторов, проходившей 17 июля, Маск заявил, что «искусственный интеллект является главной угрозой, с которой сталкивается человеческая цивилизация». Он может быть задействован в информационной войне: например, в распространении фейковых новостей.
Могут ли фантастические апокалиптические теории фантастов когда-нибудь стать реальностью? Об этом «Правда.Ру» побеседовала со старшим научным сотрудником Института проблем передачи информации РАН, членом комиссии РАН по борьбе с лженаукой и фальсификацией научных исследований Александром Панчиным.
— Широкая дискуссия развернулась между Илоном Маском и Марком Цукербергом в вопросе опасности искусственного интеллекта. Стоит ли относится к такой угрозе всерьез? Вы тут на чьей стороне?
— Искусственный интеллект — это неизбежность. Рано или поздно он превзойдет человеческий по всем своим возможностям. Мы можем лишь повлиять на то, каким он будет. А это задача рациональной дискуссии, а не раздувания страхов.
— Опасения обывателей такие: роботы отнимают работу у людей, растет поколение потенциальных инвалидов по уму. Отключат Интернет — они и шнурки сами завязать не смогут. Выходит, фантастические апокалиптические теории фильмов и книг совсем скоро станут реальностью, но к этому как к угрозе относится не надо, вы считаете?
— Мифы про оглупление людей не совсем соответствуют действительности. Наоборот, среднестатистический человек сегодня умнее, чем, скажем, 50 лет назад, насколько ученые могут судить по последним данным. Растет спрос на интеллектуальные профессии, повышается продолжительность жизни, благосостояние. Лично я не вижу серьезных поводов для опасений.
— А еще есть миф, что свой мозг мы используем только на 10%. Значит, есть надежда, что в мы и дальше будем продолжать совершенствоваться? Всегда будем умнее машин?
— Про 10% — это миф. Но есть надежда, что мы придумаем, как улучшить наш мозг с помощью нейроинтерфейсов или иных технологий. Уже есть интерфейсы, позволяющие, например, управлять роботизированной рукой. Хотя, конечно, люди любят бояться, поэтому конспирология будет всегда пользоваться спросом.
Своим мнением об этой «угрозе» поделился с «Правдой.Ру»научный журналист и писатель Владимир Губарев.
— Илон Маск на днях заявил, что искусственный интеллект является «самой большой опасностью», с которой сталкивается человеческая цивилизация. Цукерберг с ним спорит, заявляя, что предсказывать сценарии конца света очень безответственно. Получается, что совсем скоро мы окажемся во власти машин?
— Надо успокоить всех: искусственный интеллект, равный человеческому мозгу, создать невозможно, что бы там ни говорили. Мы сейчас оперируем лишь частью своих возможностей. Поэтому человек разумный всегда будет идти впереди любого искусственного интеллекта. И спорить тут не о чем.
Несмотря на то, что уровень знаний стремительно развивается, это занимает лишь частичку человеческого мозга. А наш потенциал несоизмеримо выше, чем мы на сегодняшний день можем предположить и доказать.
Об этом говорят очень простые вещи. К примеру, есть в Москве институт мозга, где возможности этого органа анализируют во всех подробностях. И это все на примере мозга великих людей: от Ленина до лауреатов Нобелевской премии. Пока гораздо больше неясного, чем конкретного и понятного. Сейчас они говорят об увеличение скорости обработки информации. Человеческий мозг и отличается от искусственного мозга тем, что он создает то, что неизвестно. Вот это прекрасно.
— Искусственный интеллект может находить алгоритм решения задачи, но саму задачу он поставить не в состоянии?
— Естественно, об этом и идет речь. Искусственный мозг — это механика и иллюзия того, что мы моделируем какие-то процессы.
Не надо ничего бояться в этом мире, кроме термоядерной войны. Надо заниматься самообразованием, и тогда никакие роботы вас не догонят. Они должны только помогать нам добывать знания.
Беседовала Татьяна ТРАКТИНА
Добавьте «Правду.Ру» в свои источники в Яндекс.Новости или News.Google, либо Яндекс.Дзен
Быстрые новости в Telegram-канале Правды.Ру. Не забудьте подписаться, чтоб быть в курсе событий.
Опрос экспертов: когда искусственный интеллект превзойдет человеческий
Искусственный интеллект постепенно захватывает мир. Пока что речь идет лишь о слабой форме ИИ, которая, к примеру, может прекрасно играть в го или распознавать изображения, но которая неспособна на многое из того, что умеет человек. Нейросети, когнитивные системы и прочие программные платформы уже помогают человеку управлять автомобилем, предсказывают погоду, направляют финансовые потоки, оценивают уровень информационной безопасности и ставят диагноз пациентам разного рода медицинских учреждений.
Сможет ли компьютер когда-либо превзойти человека во всем, что сейчас считается нашей прерогативой? Если да, то когда это произойдет? Согласно опросу экспертов, это произойдет обязательно, но вот когда — вопрос, ответ на который требует тщательного анализа и оценки современных тенденций. Сделать такой прогноз попытались сотрудники Института изучения будущего человечества Оксфорда.
Ученые тщательно проанализировали работы мировых специалистов по искусственному интеллекту и взяли несколько интервью у ведущих экспертов этой сферы. Предварительная оценка ответов показала интересное.
Всего опросили более полутора тысяч ученых, из них ответили 352 человека. Затем ответы изучили и вывели средний показатель. Прогнозы экспертов показывают, что ИИ станет лучше человека в переводе языков уже к 2024 году, писать школьные сочинения — к 2026 году, управлять грузовыми автомобилями — к 2027 году.
В других сферах придется тренироваться ещё долго, утверждают специалисты, искусственному интеллекту. Так, лучше человека продавать товары ИИ станет не ранее 2031 года, писать бестселлеры — не ранее 2049 года и проводить операции — не ранее 2053 года.
Возможно, эксперты ошибаются. К примеру, ранее считалось, что ИИ выиграет у лучшего из людей в го без форы не ранее 2027 года. Система AlphaGo обыграла наиболее известных чемпионов по этой игре уже в этом десятилетии. Ли Седоль был последним человеком, который смог выиграть у компьютерной системы такого рода. Возможно, прогноз ошибочен и отстал от реальности на десять лет.
Сегодня ученые дают 50-процентную вероятность того, что через 45 лет ИИ станет лучше человека если не во всем, то в подавляющем большинстве сфер и дисциплин. С другой стороны, эксперты могут быть и чересчур оптимистичными, поскольку нет гарантии того, что на пути ИИ не появятся какие-либо сложно преодолимые препятствия и тогда прогнозы могут вообще не осуществиться.
Интересно, что ученые из разных стран давали разные временные оценки совершенствования возможностей ИИ. Эксперты из Северной Америки считают, что компьютер превзойдет человека во всем примерно через 70 лет, в Азии надеются, что это произойдёт уже через 30 лет. Неясно, почему идёт такое расхождение во временной оценке. Может быть, ученые из Азии знают что-то, чего не знают их североамериканские коллеги
Самые интересные ответы на поставленные вопросы дали Робин Хэнсон, Мартин Ротблатт, Рэймонд Курцвейл.
Хэнсон считает, что примерно через сто лет возможности компьютерных систем сравняются с возможностями человека или превзойдут их. Но это только в том случае, если человек может создать эмуляторы мозга человека, которые позволят машинам мыслить примерно так же, как это делает человек. Если этого не произойдет, тогда эволюция ИИ откладывается на срок от 2 до 4 столетий.
Хэнсон также говорит, что если качественный скачок в развитии ИИ все же произойдет, то это повлияет на будущее человека положительно — например, экономика будет развиваться невиданными прежде темпами.
Мартин Ротблатт утверждает, что через несколько десятков лет можно будет добиться создания цифровой копии человека, в результате чего люди перестанут умирать. Физическая оболочка будет уходить, конечно, но цифровая копия станет вечной.
Рэймонд Курцвейл уверен в том, что компьютер превзойдет человека уже к 2029 году. При этом он согласен с коллегами в том, что ИИ сможет помочь нам побороть наиболее опасные заболевания, улучшить снабжение продуктами питания, развить экономику и поправить состояние окружающей среды. Курцвейл утверждает, что неплохо бы еще держать ИИ под контролем, чтобы компьютеры приносили пользу человеку без каких-либо побочных проблем.
Будущее искусственного интеллекта. Чего нам ждать в ближайшие 15–20 лет?
Фото © пресс-центр Microsoft
Лишит ли искусственный интеллект нас работы?
Один из главных страхов, связанных с развитием технологий, это автоматизация многих профессий, которая вызовет волну безработицы. Действительно, эксперты сходятся во мнении, что в ближайшие годы рынок труда ждут большие перемены. Два исследователя из школы Оксфорд-Мартин, Карл Бенедикт Фрей и Майкл Осборн, пришли к выводу, что занятость значительно снизится в среднедоходных монотонных стандартных профессиях, таких как секретари, курьеры, офисные администраторы или операторы баз данных. Даже представители креативного класса находятся под угрозой, т.к. сейчас ИИ уже пробует придумывать трейлеры к кинофильмам и рекламные ролики.
Однако футурологи считают, что бить тревогу не стоит: некоторые профессии станут ненужными — вместо них появятся другие рабочие места. «Каждый раз, когда мы отдаём что-то на откуп машинам, мы умнеем: машины позволяют нам решать более сложные задачи. Но творчество, наука, целеполагание, общение, в конце концов, — нам это нравится, почему мы должны отдавать это машине?» — задаёт риторический вопрос Пётр Левич, директор департамента взаимодействия науки, технологий и общества Московского технологического института, основатель Future Foundation.
«Исторически технологии создают больше рабочих мест, чем уничтожают, и нет причин полагать, что в случае с ИИ будет иначе», — отмечает Михаил Черномордиков, визионер, руководитель департамента стратегических технологий Microsoft в России. В будущем сотрудникам компаний придётся быть более креативными и научиться быстро решать нестандартные проблемы. Таких специалистов, как социальные работники, хирурги, хореографы, археологи, инженеры, заменить машинами будет непросто, да и не нужно. Однако надо понимать, что большинство профессий изменится под влиянием технологий и всем специалистам, где бы они ни работали, придётся с ними сталкиваться.
«Говоря о вытеснении людей с рынка труда, стоит вспомнить, что этот процесс возник не сегодня. И сто, и двести лет назад любое новое и эффективное средство производства меняло индустрию, в которой появлялось, лишая людей работы. Однако человек всегда адаптировался к этому процессу, и так будет и впредь», — считает Мария Сандрикова, капитан технологической команды MeetArticles (МФТИ).
Будет ли ИИ управлять нашей жизнью, если станет умнее человека?
Пока что ИИ может решать только конкретно поставленные задачи математического характера, такие как, например, обыграть человека в шахматы. И даже это ему удаётся не всегда. Но новейшие технологии доказывают, что скоро его возможности значительно расширятся. Алексей Турчин, писатель, исследователь глобальных рисков, связанных с развитием новых технологий, член Ассоциации футурологов, вице-президент фонда «Наука за продление жизни», не сомневается, что искусственный интеллект может сравняться с человеческим уже в этом веке и в ближайшие 10–20 лет мы будем наблюдать мощный рост связанных с ним технологий. «Ничего особенного в человеке нет, и мы либо найдём причину, по которой это невозможно сделать, либо сделаем нечто подобное», — поясняет он. В ближайшее же десятилетие писатель предсказывает новые прорывы в распознавании речи, управлении роботами и подражании эмоциям. Главный вопрос в том, не окажется ли в определённый момент, что всё в нашей жизни решает ИИ, начиная с профессиональной деятельности и личной жизни и заканчивая политическим строем? И понравится ли нам находиться в зависимом положении?
Эксперты считают, что люди не будут спешить передать ИИ управляющую функцию, скорее он будет играть роль консультанта при принятии решений. «Во многих дискуссиях на тему искусственного интеллекта присутствуют какая-то излишняя категоричность и стремление к крайностям, — уверен Роман Кривоногов, участник студенческой технологической команды EverMind (МГУ). — Я не исключаю, что такой уровень развития ИИ, когда он станет умнее человека, технически достижим. Но надо понимать, что создание подобной технологии — явно не первостепенная для человечества задача! По сути, это создание новой формы жизни, которое повлечёт за собой необходимость её воспитания и направления. Поэтому нужно понимать, что правильный искусственный интеллект — это некая полезная надстройка человека». С ним согласен Михаил Черномордиков: «Искусственный интеллект — это инструмент, мы сами решим, как мы будем им пользоваться».
Будем ли мы воевать с искусственным интеллектом?
Культовыми стали фильмы «Терминатор» и «Матрица», создатели которых поднимали тему войны машин и людей. Причём люди оказывались явно в проигрыше. Причиной конфликта чаще всего становилось то, что машина лишена чувств, а в математическом уравнении, которым она руководствуется для достижения поставленных целей, человечество оказывалось лишним. Пожалуй, все мы осознаём собственное несовершенство, и наш главный страх в том, что будет, когда искусственный интеллект тоже его осознает. Ждут ли нас тотальная война на уничтожение, рабство или есть другой выход?
Пётр Левич предполагает, что ситуация не настолько критична, как рисуют антиутопии, и сильный ИИ не станет большой опасностью: «Мы не будем с ним воевать. Скорее, мы будем с ним объединяться, и будущее за цифровыми кентаврами — объединением человека и машины». Причём эту тенденцию мы наблюдаем уже сейчас. У многих людей развилась зависимость от телефонов, без возможности быстро выйти в Интернет и получить необходимую информацию они чувствуют себя неуютно. В Бельгии одна компания даже предложила своим сотрудникам вживить подкожные чипы, которые должны выполнять роль бейджа: открывать двери в офисе, позволять пользоваться оргтехникой. Компания Microsoft разработала проект DuoSkin — временные татуировки, которые позволяют своему пользователю обмениваться данными и контролировать смартфон или компьютер удалённо, просто касаясь своей кожи. Так что мы уже делаем первые шаги на пути симбиотического сосуществования с технологиями.
Алексей Турчин считает, что искусственный интеллект представляет угрозу только в том случае, если он будет бесконтрольной системой, поэтому в будущем нам предстоит решить задачу по контролю ИИ.
Кто будет нести ответственность за действия искусственного интеллекта и контролировать его?
Одно из основных отличий искусственного интеллекта от других технологий — его способность к самообучению. С одной стороны, это открывает огромные возможности, с другой — несёт в себе опасность. Ведь, проанализировав данные, машина может прийти к выводу, что алгоритм работы необходимо изменить, и начнёт действовать в соответствии с новыми вводными. Хорошим примером может служить известная модель ситуации, когда беспилотному автомобилю в случае аварийной ситуации необходимо решить, чьё здоровье приоритетнее — пассажира или пешехода. Кто же будет нести ответственность за его выбор? Ведь, по сути, решение в подобной ситуации принимает сам автомобиль, проанализировав ситуацию. К кому может обратиться пострадавший за возмещением ущерба?
Футурологи единогласно предлагают не переносить ответственность за решения ИИ на сами технологии. В конечном итоге за них отвечают те, кто их создал. «Люди отвечают за все решения и все результаты», — подчёркивает Михаил Черномордиков. Также он обратил внимание на то, что нормы, связанные с развитием искусственного интеллекта, формируются уже сегодня: над этим совместно работают Microsoft, Google, Facebook, Apple и IBM. Человечеству предстоит выработать такие правила создания ИИ, чтобы этические вопросы решались максимально безопасным путём. Эксперты опасаются лишь одного — того, что и этические аспекты искусственного интеллекта останутся уделом IT-специалистов. «Мы нуждаемся в более широком, глубоком вовлечении представителей разных стран в разработку этих систем. ИТ-индустрия не должна диктовать ценности и моральные принципы технологического будущего», — считает Михаил Черномордиков.
Станет ли искусственный интеллект угрозой XXI века?
Одной из главных опасностей будущего футуролог Алексей Турчин считает развитие вирусов, обладающих ИИ. С ним соглашаются и другие ИТ-эксперты. Поэтому сейчас ведущие технологические корпорации, учёные и ИТ-эксперты, такие как Илон Маск, Билл Гейтс, Стивен Хокинг, Сатья Наделла, работают над созданием свода законов или правил, которые впоследствии должны свести к минимуму возможные негативные последствия работы суперкомпьютеров. Пожалуй, именно такое серьёзное отношение к проблеме должно нам помочь решить её в будущем, а ещё лучше — не допустить её появления.
Большинство из описанных выше страхов формируется от того, что обычные люди слабо себе представляют, что такое искусственный интеллект и как с ним взаимодействовать, черпая информацию лишь из научной фантастики. Поэтому ИИ должен быть ориентирован на помощь человеку, его использование должно быть прозрачным, а крупным компаниям следует уделять особое внимание обучению сотрудников и пользователей решений на базе ИИ принципам работы с этой новой технологией. Учёные сходятся во мнении, что как бы мы ни оценивали развитие искусственного интеллекта, остановить его уже невозможно.