ChatGPT: ДОБРО ИЛИ ЗЛО?

На этом витке истории ИИ, когда отрицательных примеров его использования с тяжелыми последствиями пока ещё не набралось, я для себя выработал несколько вопросов и тезисов по волнующим меня аспектам ИИ.

1. Риск получения непредсказуемых последствий скрыт в ситуации, когда ИИ одной стороны взаимодействует с ИИ другой стороны. Представьте: ChatGPT формирует резюме соискателя вакансии, он же, помогая работодателю, оценивает резюме, он же принимает решение о пригодности кандидата к работе. Что дальше? Без тестов и испытаний принять такой сценарий нельзя.

2. Риск утраты контроля. Важный вопрос: не приведет ли делегирование важных и сложных профессиональных задач, а с ними и данных, к утечке этих данных? И нет ли здесь риска попасть под внешнее влияние? Помните, что получает тот, кто владеет информацией?

3. Расширение охвата сфер применения ИИ может привести к расчеловечиванию профессий и бизнес-процессов. Хорошо ли это? В высокотехнологических отраслях (машиностроении, например) это, по всей видимости, не так уж и плохо, а в журналистике, литературе, искусстве? Самые сложные для оценки сферы — медицина и юриспруденция. В них всё будет зависеть от настроек и способов приложения возможностей ИИ. В отдаленном будущем ИИ может взять на себя обслуживание почти всех областей медицины. Юриспруденция слишком зависима от личностей и политики, в ней ИИ никогда не будет играть решающую роль, на мой взгляд.

4. Расширение сфер применения ИИ должно параллельно обеспечиваться системной работой по предотвращению профессиональной деградации специалистов в этих сферах. Профессионалы вырастают только из тех, кто не боится ставить перед собой и решать каждый раз более сложные задачи. Технологии ИИ таят опасность полного избавления человека от необходимости решать трудные задачи.

По вашему вопросу: Хотят ли люди использовать технологию ChatGPT, выдавая ее результаты за собственные?

Кто знает и умеет пользоваться технологией, разумеется, хотя бы раз в жизни задумывался над этим вопросом. Соблазн велик, и он будет только расти. Еще в школе кто-то списывал домашнюю работу, а кто-то делал сам. Мы разные, но степень общего искушения по мере роста информированности общества будет возрастать.

Пока ИИ позиционируется как развлечение и общее благо.

Но со временем, если мы увидим в его массовых проявлениях угрозу идентичности личности, всё может измениться. И тогда многое будет зависеть от того, как отреагирует государство. Но не случится ли, что на тот момент решение о судьбе человечества примет всесильный ИИ, пришедший ему на смену?