Парадокс ИИ

Автор James Gorrie via Эпохальные времена,

Если спешка с внедрением искусственного интеллекта кажется знакомой, это потому, что мы видели этот фильм раньше. В конце девяностых годов организации всех размеров, но особенно крупные или корпоративные предприятия, изо всех сил пытались перейти от устаревшей функциональности к цифровой трансформации. Уже после пандемии COVID-19 и глобальной блокировки в 2020 году корпоративные организации спешили завершить свои цифровые переходы, особенно когда речь шла о предоставлении возможностей и защите широко распространенных удаленных работников с операциями на дому, рабочими процессами и правилами соблюдения.

Более того, гонка вооружений ИИ идет полным ходом, поскольку Microsoft, Apple и другие технологические фирмы инвестируют миллиарды в продукты ИИ, такие как OpenAI. Все хорошо знают или должны знать, насколько интенсивна гонка за доминирование в ИИ на глобальном и корпоративном уровнях. Это такая трансформация.

ИИ меняет бизнес-практику

Нет никаких сомнений в том, что ИИ — это следующий технологический прогресс, который коренным образом изменит наш образ жизни в ближайшем будущем и, возможно, навсегда. На самом деле это уже происходит и продолжается. Но в эти ранние и головокружительные дни искусственного интеллекта также наблюдаются скачки скорости практичности.

Например, корпоративные руководители и советы директоров сталкиваются с препятствиями на пути внедрения и контроля, которые мешают их организациям реализовать не только часть потенциала ИИ, не говоря уже об оправдании миллионов долларов расходов на развертывание ИИ на уровне предприятия в оптимизации их операций, оптимизации рабочего процесса, гармонизации изолированных подразделений и других организационных проблем, с которыми организации на уровне предприятия борются, чтобы справиться хорошо.

Но это только начало проблем и рисков, которые ИИ представляет даже для среднего бизнеса, а также для организаций корпоративного уровня.

Риск для конфиденциальности и этики

Обещание ИИ заключается не только в скорости анализа данных, но и в его способности быстро получать доступ к личной информации и потенциально злоупотреблять доступом. Частные данные физических лиц защищены их законным правом на неприкосновенность частной жизни, и ответственность за защиту этой конфиденциальности ложится на организации, которые обладают частными данными. Если программа или продукт, управляемый ИИ, злоупотребляют или даже просто не контролируются, риск того, что предприятие окажется в нарушении законов о конфиденциальности, возрастает.

Есть также The Риск увековечения предвзятости и вытекающее из этого социальное воздействие любых предубеждений, которые запекаются в программе ИИ. Они могут включать в себя личные убеждения программиста или сервисера ИИ, с результатами, которые наносят вред определенным людям с личными убеждениями, которые противоречат тем, которые находятся в программировании ИИ.

Незаконное наблюдение является еще одним риском, который ИИ несет организациям всех размеров. Имеют ли люди право не подвергаться наблюдению при осуществлении деятельности в свое время? Имеют ли они право на то, чтобы их поведение не коммодитизировалось с помощью прогнозной аналитики и не продавалось на рынок повторно? Они должны, но на практике это гораздо больше случай, когда технологии опережают способность нашей правовой системы решать новые проблемы и риски. Риск технологических изменений и возможностей слишком высок.

Предвзятость в AI

Стоит более внимательно изучить предубеждения в ИИ. Поговорка «мусор в мусоре» относится к рискам и влиянию предвзятости в ИИ, поскольку она применяется к людям и их индивидуальным убеждениям, поведению и мнениям. Это также относится к стандартам делового поведения, проблемам конфиденциальности и любому другому аспекту бизнеса, который может быть оценен и оценен или обесценен субъективным процессом или программой, управляемым ИИ.

Это просто потому, что ИИ является продуктом своего создателя и, следовательно, предубеждений создателя. Объективность трудно, если не невозможно, получить или сообщить в отношении моральных и этических вопросов, значение обсуждения над скоростью, часто сложные процессы переговоров и компромисса, или текущая выгода против будущих выгод, рыночная доброжелательность и так далее.

Интеграционные риски и вызовы

В практическом плане многие предприятия считают, что интеграция ИИ в их текущие операции является сложной и разрушительной. Во многих, если не в большинстве случаев, организационный рост является органическим и организованным, оптимизированным и изолированным. То есть, бизнес-практики и нюансы рабочего процесса эволюционировали с течением времени, часто в результате причуд личности, личных отношений внутри и за пределами организации, установленных бизнес-практик и других причин «человеческого фактора», почему бизнес работает так, как он работает.

Процесс интеграции систем, управляемых ИИ, в такие тонкие организации и их рабочие процессы может быть не только дорогостоящим, но и фундаментально изменить саму организацию таким образом, чтобы сделать ее неузнаваемой для ее собственной рабочей силы и / или руководителей. Это также может привести к дорогостоящим нарушениям. Такие риски делают дорогостоящую интеграцию со слабыми результатами оправданным страхом среди советов директоров и руководителей.

Безопасность данных в AI

Одним из самых больших рисков внедрения систем на основе ИИ является скорость, с которой они могут получить доступ ко всем данным на предприятии. Мало того, что новые кибератаки усиливаются ИИ, но, оказавшись внутри сети, хакеры часто могут получить доступ к незащищенной машинной или даже человеческой идентичности, чтобы быстро использовать систему, управляемую ИИ, для ускорения атак и раскрытия защищенных данных, усиления кражи данных и осуществления атак вымогателей, все экспоненциально быстрее.

Фактически, злоумышленники теперь могут использовать управляемые ИИ системы предприятий, чтобы помочь в их собственной потере данных, прежде чем они даже узнают, что они были взломаны. ИИ — это инструмент, который выполняет работу того, кто его контролирует. Это было в случае с Microsoft Copilot для Microsoft 365, где исследователи использовали Copilot для быстрого поиска и извлечения критических данных с помощью всего нескольких подсказок.

Юридические риски

Учитывая, что мы живем в очень спорном обществе, риски, которые ИИ представляет для предприятий, значительны и сложны. Правда в том, что управляемые ИИ программы, инструменты и решения будут по-прежнему быстро внедряться. В то же время риски для интеллектуальной собственности и ответственность, которую ИИ представляет для организаций с точки зрения соблюдения нормативных требований, подотчетности, конфиденциальности и этических проблем, не исчезнут в ближайшее время.

Предприятия и организации спешат внедрить ИИ и развернуть его как можно скорее, если по какой-либо другой причине они не хотят, чтобы их оставили позади. В конце концов, «инновация или смерть» — это не просто поговорка, для многих фирм это констатация факта.

Искусственный интеллект неизбежен. Неважно, что я пишу в этой статье. Слишком долго ИИ будет контролировать организации по всей стране и по всему миру. Эта трансформация будет намного быстрее, чем предыдущая цифровая революция в экономике, которая заняла до 20 лет.

Но во всем этом остается один очевидный вопрос: "Кто контролирует ИИ? "