forum
Лента обновлена: 49 seconds ago Не синхронизировано: 3
DMITRI · 2 weeks ago Заявление
Оригинал ↗

Пока нет групп избранного.

🔍Рубрика - "Философские лонгриды"

🔍Рубрика - "Философские лонгриды"

"Нейросети: от страха перед заменой к пониманию технологии."

Нейросети сегодня вызывают две противоположные реакции. Одни видят в них путь к изобилию и освобождению человека от рутины. Другие — угрозу работе, творчеству, свободе и даже человеческой самостоятельности. Чтобы разобраться, полезно начать не с прогнозов, а с того, как устроена сама технология.

Современная генеративная нейросеть вроде GPT не является человекомоподобным разумом. Она обучается на огромных массивах данных и во время работы строит наиболее вероятное продолжение заданного контекста — токен за токеном. Поэтому она может создавать убедительный текст, изображение, программу или музыку, не обладая человеческим пониманием смысла, жизненным опытом или собственной системой целей.

Отсюда важное различие: нейросеть умеет преобразовывать и комбинировать информацию, но постановка цели остаётся за человеком. Человек решает, зачем создать картину, какой проект запустить, какую проблему исследовать и какой результат считать ценным. ИИ резко снижает технический порог между замыслом и его воплощением: человеку уже необязательно быть профессиональным художником, программистом, дизайнером или переводчиком, чтобы начать создавать соответствующий продукт.

Но это не означает, что ИИ просто «заберёт все профессии». Гораздо реалистичнее другой процесс: исчезают отдельные задачи, а вместе с ними меняется содержание профессий. Врач меньше времени тратит на механический анализ информации, учитель — на проверку типовых заданий, предприниматель — на подготовку документов, программист — на написание части стандартного кода. При этом возрастает значение постановки задач, проверки результата, ответственности, коммуникации, принятия решений и работы с людьми.

Следовательно, вопрос «какие профессии останутся?» постепенно становится менее точным. Важнее спросить: какие человеческие функции будут сохранять ценность, даже если часть работы выполняет машина? Это доверие, ответственность, эмпатия, переговоры, лидерство, понимание конкретного человека и ситуации, способность определить цель и принять решение там, где нет готового алгоритма.

При этом опасность состоит не только в возможной потере рабочих мест. Есть и другая проблема — зависимость от системы. Если человек перестаёт самостоятельно проверять информацию, формулировать мысли и принимать решения, нейросеть может не усилить его интеллект, а постепенно заменить часть интеллектуальной работы. Поэтому главный навык новой эпохи — не просто умение пользоваться ИИ, а умение сохранять собственное мышление при его использовании.

Возникает и вопрос контроля. Фраза «тот, кто владеет ИИ, будет управлять людьми» слишком упрощает ситуацию. Нейросеть сама по себе не является системой управления обществом. Однако тот, кто контролирует модели, данные, вычислительные ресурсы и каналы их распространения, действительно получает значительное влияние. Кроме того, модели могут воспроизводить ошибки и перекосы обучающих данных, а их ответы зависят от архитектуры, настроек и ограничений конкретной системы. Поэтому разнообразие моделей, открытые технологии, прозрачность и способность пользователя проверять информацию имеют принципиальное значение.

Есть и экономический вопрос. Если один человек с ИИ способен выполнять работу небольшой команды, производительность действительно может резко вырасти. Цифровой продукт можно создавать и распространять почти без дополнительных затрат. Но физический мир никуда не исчезает: нужны энергия, оборудование, сырьё, земля, логистика и инфраструктура. Поэтому тезис о скором наступлении полного «изобилия» — пока скорее сценарий будущего, чем установленный факт.

Тем не менее изменение уже происходит. Когда технология позволяет одному человеку делать то, для чего раньше требовались несколько специалистов, меняется сама стоимость человеческого труда. Одни навыки дешевеют, другие становятся ценнее. Возникает переходный период, в котором человеку приходится заново определять свою профессиональную роль.

Именно здесь находится главный практический вывод.

Нейросеть лучше рассматривать не как нового работника, который обязательно должен кого-то заменить, а как универсальный интеллектуальный инструмент. Как когда-то калькулятор изменил работу инженера, а компьютер — работу офисного специалиста, ИИ меняет границу между тем, что человек делает сам, и тем, что он передаёт машине.

Можно бояться этого процесса, можно его идеализировать — но оба подхода мешают увидеть реальность. Нейросеть не гарантирует ни освобождения, ни порабощения. Один и тот же инструмент может использоваться для повышения производительности, образования и творчества — или для массового контроля, манипуляции и вытеснения людей из профессий.

Поэтому вопрос будущего звучит не так: «Заменит ли ИИ человека?»

Гораздо точнее спросить: «Что человек будет делать сам, что передаст машинам и кто будет определять правила этого взаимодействия?»

От ответа на эти вопросы будет зависеть не только судьба отдельных профессий, но и то, станет ли ИИ инструментом расширения человеческих возможностей или очередной технологией концентрации власти и ресурсов.

👍 5 👎 0 💬 3 🔁 0 🧠

Комментарии (3)

Основной опасностью LLM мне видится не то, что ИИ отберут у людей львиную долю работы(Бога ради, пусть себе работают, люди могут переключиться на творчество, философию и т д, махать лопатой вместо ИИ или давить на кнопки клавиатуры - не предел мечтаний), а то, что человечество, лишенное необходимости самостоятельного анализа и обработки данных и принимающее выкладки ИИ как истину в последней инстанции, стремительно отупеет. Боюсь, что сюжет фильма "Идиократии" мы можем увидеть вживую уже через пару поколений плотного использования ИИ.

В кругу моего общения многие ежедневно и очень тесно работают с ИИ(по долгу службы) - ИТ-специалисты(аналитики, программисты и т д). Собственно, их работа все больше сводится к тому, чтобы сформировать запрос для ИИ и скопипастить сгенерированный ответ куда надо или просто "апрувнуть" то, что нагенерил ИИ. Я знаю этих людей давно и потому легко замечаю как падает их способность самостоятельно формулировать мысль - когда в процессе диалога возникает необходимость уточнить какие-то данные в сети, я, глядя на то, как люди формулирую запрос в гугле, впадаю в ступор от этих формулировок.

ИИ становится все "умнее" и понимает, что хочет от него пользователь даже когда запрос сформулирован так, что и человек бы не понял что от него хотят. Это приводит к тому, что необходимость "заморачиваться" с запросом становится все меньше.

Экстраполировав развитие событий, я прихожу к выводу, что скоро достаточно будет просто мычать, чтобы получить желаемое от ИИ. А это неизбежная деградация - наш мозг устроен так, что он очень не любит работать без необходимости(очень ресурсоемок) и стремиться отключиться при первой возможности.

Впервые за время участия в обсуждении инициатив ФОРУМ мне нечего добавить!

Все основные мысли были описаны DMITRI и Юрием))

Возможно Вы меня за это будете критиковать, но я считаю что ситуация с ИИ и перспективой его развития это отражение борьбы человека со своей природой.

Мы создали калькулятор чтобы было легче считать и тут же разучились считать в уме

Мы создали видео передачу данных и тут же перестали читать книги

Теперь мы создали ИИ и получили риск разлучиться думать

Может это и эволюция, но когда я сопоставляю наши возможности с какими-то древними и легендами или строениями, то мне все больше кажется что это не эволюция, а размен нашей внутреннего потенциала на внешние устройства (обмен духовного на техногенное).

А может мы дошли до того этапа когда биологическая форма человека больше не конкурента (может мы ее сами сделали такой путем стремления к комфорту, а может мы просто достигли своего предела возможностей как вид жизни так и не поняв кто мы, откуда и куда идём?

Касательно же вынесенной мысли о том что человеку придется решать какие функции отдавать, а какие нет - это вообще ужас страшный. Чтобы ответить на этот вопрос мне кажется одного или двух, трёх... человек просто не хватит. Нам нужна армия аналитиков из каждого вида деятельности человека которые дальше должны дать свои заключения на этот счёт, а потом нужна армия тех кто будет контролировать саму ИИ да ещё проверять и анализировать результаты ее деятельности. Это все лишь для того чтобы обеспечить безопасность ее глобального применения при этом вопрос поднятый Юрием не решается.

ИТОГО: цитата одного человека - "от развития ИИ невозможно отказаться но никто не знаем чем это развитие закончится"

У человечества наверное нет критерия определения выбора в этом вопросе - будет как всегда метод проб и ошибок! А там как Бог управит!

Комментарии обновлены: 1 hour ago

← Назад к ленте