В понедельник^(Monday) , 22 мая^{(May 22)} 2023 года, проверенный аккаунт в Твиттере под названием «Bloomberg Feed» поделился твитом, в котором утверждалось, что ^(Twitter)в Пентагоне^{(explosion at the Pentagon)} произошел взрыв , и сопровождалось изображением. Если вам интересно, какое отношение это имеет к искусственному интеллекту (ИИ), изображение было создано ИИ, а твит быстро стал вирусным и вызвал кратковременное падение фондового рынка. Все могло быть гораздо хуже — яркое напоминание об опасностях искусственного интеллекта.

Опасности искусственного интеллекта

Нам нужно беспокоиться не только о фейковых новостях. Существует множество непосредственных или потенциальных рисков, связанных с ИИ, от рисков, касающихся конфиденциальности и безопасности, до предвзятости и вопросов авторского права. Мы углубимся в некоторые из этих опасностей искусственного интеллекта, посмотрим, что делается для их смягчения сейчас и в будущем, и спросим, ​​перевешивают ли риски ИИ преимущества.

Фейковые новости

Когда дипфейки впервые появились, возникли опасения, что их можно использовать со злыми намерениями. То же самое можно сказать и о новой волне генераторов изображений ИИ^{(AI image generators)} , таких как DALL-E 2 , Midjourney или DreamStudio . 28 марта^{(March 28)} 2023 года вирусными стали сгенерированные искусственным интеллектом изображения Папы Франциска^{(AI-generated images of Pope Francis)} в белой пуховой куртке Balenciaga , наслаждающегося несколькими приключениями, включая катание на скейтборде и игру в покер. ^(Balenciaga)Если вы не изучите изображения внимательно, будет трудно отличить эти изображения от реальных вещей.

Хотя пример с Папой, несомненно, был немного забавным, изображение (и сопровождающий его твит) о Пентагоне было^(Pentagon) совсем не таким. Поддельные^(Fake) изображения, созданные ИИ, могут нанести ущерб репутации, положить конец бракам или карьере, вызвать политические волнения и даже начать войны, если ими владеют не те люди — короче говоря, эти изображения, созданные ИИ, могут быть чрезвычайно опасными, если ими злоупотреблять.

Благодаря тому, что генераторы изображений ИИ теперь бесплатно доступны для использования всеми, а Photoshop добавил генератор изображений ИИ^{(Photoshop adding an AI image generator )} в свое популярное программное обеспечение, возможности манипулировать изображениями и создавать фейковые новости стали больше, чем когда-либо.

Конфиденциальность, безопасность и взлом

Конфиденциальность и безопасность также вызывают серьезную озабоченность, когда речь идет о рисках, связанных с ИИ: ряд стран уже запретили ChatGPT OpenAI . Италия^(Italy) запретила эту модель из соображений конфиденциальности, полагая, что она не соответствует Европейскому общему регламенту защиты данных^{(General Data Protection Regulation)} ( GDPR ), а правительства Китая^(China) , Северной Кореи^{(North Korea)} и России запретили ее из-за опасений, что она будет распространять дезинформацию.

Так почему же мы так обеспокоены конфиденциальностью, когда дело касается ИИ? Приложения^{(AI apps)} и системы искусственного интеллекта собирают большие объемы данных для обучения и прогнозирования. Но как эти данные хранятся и обрабатываются? Существует реальный риск утечки данных, взлома и попадания информации в чужие руки.

Под угрозой находятся не только наши личные данные. Взлом ИИ представляет собой реальный риск — такого еще не произошло, но если злоумышленники смогут взломать системы ИИ, это может иметь серьезные последствия. Например, хакеры могут управлять беспилотными транспортными средствами, взламывать системы безопасности ИИ, чтобы получить доступ к местам с высоким уровнем безопасности, и даже взламывать системы вооружения с защитой ИИ.

Эксперты Агентства ^(Agency)перспективных исследовательских ^{(Defense Advanced Research)}проектов^(Projects) Министерства обороны США^{(US Department)} ( DARPA ) осознают эти риски и уже работают над проектом DARPA «Гарантия устойчивости искусственного интеллекта от обмана»^{(Guaranteeing AI Robustness Against Deception)} ( GARD ), решая проблему с нуля. Цель проекта — обеспечить, чтобы устойчивость к взлому и фальсификации была встроена в алгоритмы и искусственный интеллект.

Нарушение авторского права

Еще одна опасность ИИ — нарушение авторских прав. Возможно, это звучит не так серьезно, как некоторые другие опасности, о которых мы упомянули, но разработка моделей искусственного интеллекта, таких как GPT-4, подвергает каждого повышенному риску нарушения прав.

Каждый раз, когда вы просите ChatGPT создать что-то для вас — будь то сообщение в блоге о путешествиях или новое название вашего бизнеса — вы передаете ему информацию, которую он затем использует для ответа на будущие запросы. Информация, которую он вам передает, может нарушать чьи-либо авторские права, поэтому так важно использовать детектор плагиата и редактировать любой контент, созданный ИИ, перед его публикацией.

Социальная предвзятость и предвзятость данных

ИИ не человек, поэтому он не может быть предвзятым, верно? Неправильный. Люди и данные используются для обучения моделей ИИ и чат-ботов^(chatbots) , а это означает, что предвзятые данные или личности приведут к предвзятому ИИ. В ИИ есть два типа предвзятости: социальная предвзятость и предвзятость данных.

Учитывая, что в повседневном обществе присутствует множество предубеждений, что произойдет, когда эти предубеждения станут частью ИИ? Программисты, ответственные за обучение модели, могут иметь предвзятые ожидания, которые затем попадают в системы искусственного интеллекта.

Или данные, используемые для обучения и разработки ИИ, могут быть неверными, предвзятыми или собранными недобросовестно. Это приводит к предвзятости данных, которая может быть столь же опасной, как и предвзятость общества. Например, если система распознавания лиц обучена с использованием в основном лиц белых людей, ей может быть сложно распознавать лица представителей групп меньшинств, что увековечивает угнетение.

Роботы отбирают наши рабочие места

Развитие чат-ботов, таких как ChatGPT и Google Bard, породило совершенно новую проблему, связанную с искусственным интеллектом: риск того, что роботы^{(robots )} отнимут нашу работу. Мы уже видим, как писателей в технологической отрасли заменяет искусственный интеллект, разработчики программного обеспечения обеспокоены тем, что потеряют работу из-за ботов, а компании используют ChatGPT для создания контента для блогов и социальных сетей вместо того, чтобы нанимать писателей-людей.

Согласно докладу Всемирного экономического форума «Будущее рабочих мест за 2020 год»^{(World Economic Forum’s The Future of Jobs Report 2020)} , ожидается, что к 2025 году ИИ заменит 85 миллионов рабочих мест во всем мире. Даже если ИИ не заменит писателей, многие уже используют его в качестве инструмента. Тем, кто работает на риске быть замененным ИИ, возможно, придется адаптироваться, чтобы выжить — например, писатели могут стать инженерами по ИИ, что позволит им работать с такими инструментами, как ChatGPT, для^(ChatGPT) создания контента, а не заменяться этими моделями.

Будущие потенциальные риски ИИ

Все это непосредственные или надвигающиеся риски, но как насчет некоторых менее вероятных, но все же возможных опасностей ИИ, которые мы можем увидеть в будущем? К ним относятся такие вещи, как искусственный интеллект, запрограммированный на причинение вреда людям, например, автономное оружие, обученное убивать во время войны.

Кроме того, существует риск того, что ИИ может целенаправленно сосредоточиться на своей запрограммированной цели, развивая деструктивное поведение, пытаясь достичь этой цели любой ценой, даже когда люди пытаются помешать этому.

Скайнет^(Skynet) научил нас, что происходит, когда ИИ становится разумным. Однако, хотя инженер Google Блейк Лемуан,^{(Blake Lemoine)} возможно, пытался убедить всех, что LaMDA, генератор чат-ботов с искусственным интеллектом Google, был разумным^{(LaMDA, Google’s artificially intelligent chatbot generator was sentient)} еще в июне 2022 года^{(June 2022)} , к счастью, на сегодняшний день нет никаких доказательств того, что это правда.

Проблемы регулирования ИИ

В понедельник, 15 мая 2020 г., генеральный директор OpenAI Сэм Альтман присутствовал на первых слушаниях в Конгрессе по искусственному интеллекту^{(OpenAI CEO Sam Altman attended the first congressional hearing on artificial intelligence)} , предупредив: «Если эта технология пойдет не так, она может пойти совсем не так». Руководитель OpenAI^{(OpenAI CO)} ясно дал понять, что поддерживает регулирование, и вынес на слушания многие свои собственные идеи. Проблема в том, что ИИ развивается с такой скоростью, что трудно понять, с чего начать регулирование.

Конгресс^(Congress) хочет избежать тех же ошибок, которые были допущены в начале эры социальных сетей, и группа экспертов вместе с лидером большинства в Сенате Чаком Шумером^{(Senate Majority Leader Chuck Schumer)} уже работает над правилами, которые потребуют от компаний раскрывать, какие источники данных они использовали для обучения моделей и кто обучал их. Однако может пройти некоторое время, прежде чем именно то, как будет регулироваться ИИ, станет ясно, и, несомненно, со стороны компаний, занимающихся ИИ, возникнет негативная реакция.

Угроза искусственного общего ^{(Artificial General Intelligence)}интеллекта^(Threat)

Существует также риск создания общего искусственного интеллекта ( AGI ), который сможет выполнять любые задачи, которые может выполнить человек (или животное). Часто^(Often) упоминаемый в научно-фантастических фильмах, мы, вероятно, еще в десятилетиях от такого создания, но если и когда мы создадим ОИИ ,^(AGI) это может представлять угрозу для человечества.

Многие общественные деятели уже поддерживают мнение о том, что ИИ представляет экзистенциальную угрозу для человечества, в том числе Стивен Хокинг^{(Stephen Hawking)} , Билл Гейтс^{(Bill Gates)} и даже бывший генеральный директор Google Эрик Шмидт^{(Google CEO Eric Schmidt)} , который заявил: «Искусственный интеллект может представлять экзистенциальные риски, и правительствам необходимо знать, как защититься от них». технология не используется злоумышленниками».

Итак, опасен ли искусственный интеллект и перевешивают ли его риски его преимущества? Решение по этому вопросу еще не принято, но мы уже видим доказательства некоторых рисков, окружающих нас прямо сейчас. Другие опасности вряд ли реализуются в ближайшее время, если вообще реализуются. Однако ясно одно: опасность ИИ не следует недооценивать. Крайне важно с самого начала обеспечить правильное регулирование ИИ, чтобы свести к минимуму и, как мы надеемся, смягчить любые будущие риски.

Is Artificial Intelligence (AI) Dangerous?

On Monday, May 22, 2023, a vеrified Twitter account called “Bloomberg Feed” shаred a tweet claiming there had been an explosion at the Pentagon, accompanied by an image. If you’re wondering what this has to do with artificial intelligence (AI), the image was an AI-generated one, with the tweet quickly going viral and sparking a brief stock market dip. Things could have been much worse — a stark reminder of the dangers of artificial intelligence.

Artificial Intelligence Dangers

It’s not just fake news we need to worry about. There are many immediate or potential risks associated with AI, from those concerning privacy and security to bias and copyright issues. We’ll dive into some of these artificial intelligence dangers, see what is being done to mitigate them now and in the future, and ask whether the risks of AI outweigh the benefits.

Fake News

Back when deepfakes first landed, concerns arose that they could be used with ill intent. The same could be said for the new wave of AI image generators, like DALL-E 2, Midjourney, or DreamStudio. On March 28, 2023, fake AI-generated images of Pope Francis in a white Balenciaga puffer jacket, and enjoying several adventures, including skateboarding and playing poker went viral. Unless you studied the images closely, it was hard to distinguish these images from the real thing.

While the example with the pope was undoubtedly a bit of fun, the image (and accompanying tweet) about the Pentagon was anything but. Fake images generated by AI have the power to damage reputations, end marriages or careers, create political unrest, and even start wars if wielded by the wrong people — in short, these AI-generated images have the potential to be hugely dangerous if misused.

With AI image generators now freely available for anybody to use, and Photoshop adding an AI image generator to its popular software, the opportunity to manipulate images and create fake news is greater than ever.

Privacy, Security, and Hacking

Privacy and security are also huge concerns when it comes to the risks of AI, with a number of countries already banning OpenAI’s ChatGPT. Italy has banned the model due to privacy concerns, believing it does not comply with the European General Data Protection Regulation (GDPR), while China, North Korea, and Russia’s governments banned it due to fears it would spread misinformation.

So why are we so concerned about privacy when it comes to AI? AI apps and systems gather large amounts of data in order to learn and make predictions. But how is this data stored and processed? There’s a real risk of data breaches, hacking, and information falling into the wrong hands.

It’s not just our personal data that’s at risk, either. AI hacking is a genuine risk — it hasn’t happened yet, but if those with malicious intent could hack into AI systems, this could have serious consequences. For example, hackers could control driverless vehicles, hack AI security systems to gain entry to highly secure locations, and even hack weapons systems with AI security.

Experts at the US Department of Defense’s Defense Advanced Research Projects Agency (DARPA) recognize these risks and are already working on the DARPA’s Guaranteeing AI Robustness Against Deception (GARD) project, tackling the problem from the ground up. The project’s goal is to ensure that resistance to hacking and tampering is built into algorithms and AI.

Copyright Infringement

Another of the dangers of AI is copyright infringement. This may not sound as serious as some other dangers we’ve mentioned, but the development of AI models like GPT-4 puts everyone at increased risk of infringement.

Every time you ask ChatGPT to create something for you — whether that be a blog post on travel or a new name for your business — you’re feeding it information which it then uses to answer future queries. The information it feeds back to you could be infringing somebody else’s copyright, which is why it’s so important to use a plagiarism detector and edit any content created by AI before publishing it.

Societal and Data Bias

AI isn’t human, so it can’t be biased, right? Wrong. People and data are used to train AI models and chatbots, which means biased data or personalities will result in a biased AI. There are two types of bias in AI: societal bias and data bias.

With many biases present in everyday society, what happens when these biases become part of AI? The programmers responsible for training the model could have expectations that are biased, which then make their way into AI systems.

Or data used to train and develop an AI could be incorrect, biased, or collected in bad faith. This leads to data bias, which can be as dangerous as societal bias. For example, if a system for facial recognition is trained using mainly white people’s faces, it may struggle to recognize those from minority groups, perpetuating oppression.

Robots Taking Our Jobs

The development of chatbots such as ChatGPT and Google Bard has opened up a whole new worry surrounding AI: The risk that robots will take our jobs. We’re already seeing writers in the tech industry being replaced by AI, software developers worried they’ll lose their jobs to bots, and companies using ChatGPT to create blog content and social media content rather than hiring human writers.

According to the World Economic Forum’s The Future of Jobs Report 2020, AI is expected to replace 85 million jobs worldwide by 2025. Even if AI doesn’t replace writers, it’s already being used as a tool by many. Those in jobs at risk of being replaced by AI may need to adapt to survive — for example, writers may become AI prompt engineers, enabling them to work with tools like ChatGPT for content creation rather than being replaced by these models.

Future Potential AI Risks

These are all immediate or looming risks, but what about some of the less likely but still possible dangers of AI we could see in the future? These include things like AI being programmed to harm humans, for example, autonomous weapons trained to kill during a war.

Then there’s the risk that AI could focus single-mindedly on its programmed goal, developing destructive behaviors as it attempts to accomplish that goal at all costs, even when humans try to stop this from happening.

Skynet taught us what happens when an AI becomes sentient. However, though Google engineer Blake Lemoine may have tried to convince everyone that LaMDA, Google’s artificially intelligent chatbot generator was sentient back in June 2022, there’s thankfully no evidence to date to suggest that’s true.

The Challenges of AI regulation

On Monday, May 15, 202, OpenAI CEO Sam Altman attended the first congressional hearing on artificial intelligence, warning, “If this tech goes wrong, it can go quite wrong.” The OpenAI CO made it clear he favors regulation and brought many of his own ideas to the hearing. The problem is that AI is evolving at such speed, it’s difficult to know where to start with regulation.

Congress wants to avoid making the same mistakes made at the beginning of the social media era, and a team of experts alongside Senate Majority Leader Chuck Schumer are already working on regulations that would require companies to reveal what data sources they used to train models and who trained them. It may be some time before exactly how AI will be regulated becomes clear, though, and no doubt there will be backlash from AI companies.

The Threat of an Artificial General Intelligence

There’s also the risk of the creation of an artificial general intelligence (AGI) that could accomplish any tasks a human being (or animal) could perform. Often mentioned in sci-fi films, we’re probably still decades away from such a creation, but if and when we do create an AGI, it could pose a threat to humanity.

Many public figures already endorse the belief that AI poses an existential threat to humans, including Stephen Hawking, Bill Gates, and even former Google CEO Eric Schmidt, who stated, “Artificial intelligence could pose existential risks and governments need to know how to make sure the technology is not misused by evil people.”

So, is artificial intelligence dangerous, and do its risk outweigh its benefits? The jury’s still out on that one, but we’re already seeing evidence of some of the risks around us right now. Other dangers are less likely to come to fruition anytime soon, if at all. One thing is clear, though: the dangers of AI shouldn’t be underestimated. It’s of the utmost importance that we ensure AI is properly regulated from the outset, to minimize and hopefully mitigate any future risks.

Related posts

• Как установить графический инструмент в Windows 11

• Как отключить инструмент «Ножницы» в Windows 11

• Исправить этот компьютер не может запустить ошибку Windows 11

• Как изменить обои в Windows 11

• Как установить Windows 11 на устаревший BIOS

• Как включить или отключить службу в Windows 11

• Как скачать и установить Minecraft на Windows 11

• Исправить ошибку «Критический процесс умер» в Windows 11

• Как установить средство просмотра XPS в Windows 11

• Исправить низкий уровень громкости микрофона в Windows 11

• Как запустить проводник от имени администратора в Windows 11

• Исправить отсутствие VCRUNTIME140.dll в Windows 11

• Как включить или отключить мобильную точку доступа в Windows 11

• Как создать файл PDF в Windows 11

• Как создать локальную учетную запись в Windows 11

• Как отключить игровую панель Xbox в Windows 11

• Как установить Notepad++ по умолчанию в Windows 11

• Как включить редактор групповой политики в Windows 11 Home Edition

• Как обновить приложения в Windows 11

• Как откатить обновления драйверов в Windows 11