Сингуляроность уже настала?

[OtherSide]

Маск сказал что эра ИИ сингулярности уже настала. Вроде кажется что он торопит события, а может и нет.
Смотрел недавно выпуск с Теренсом Тао, он рассказывал про язык LEAN в котором можно формулировать доказательство теорем. И вот на этом языке недавно посывапалить доказательства от ЛЛМ задач Эрдыша https://github.com/teorth/erdosproblems ... s-problems
То что не могли найти профессиональные математики много лет.
На самом деле ЛЛМ-ки сильно скаканули вперед за последний год. Я помню в прошлом году (конец 24) восторгался что он с нуля простенький компонент с выброром цвета создал (на 150 строк). Сейчас он уже шарашит с одного запроса код на 1500 строк со сложной логикой, которую я бы делал недели 2-3
После того как он научился работать с проектами там вообще мега буст. Прям все делает - и дизайн и фронтэнд и бэкенд. За 2-3 дня сделал работу на которую ушло бы 2-3 месяца раньше.
Мне уже честно говоря надоело про ИИ писать потому что все мои прогнозы сбылись пугающе быстро. Еще год назад мне тут писали что я неудачиник, тупой и ленивый(?) потому что не могу найти работу. Сейчас ютуб роликами об увольнениях и кризисе в отрасле забит. По хорошему чем меньше людей понимает чем происходит тем лучше, хоть какой то лаг есть.
Сейчас смотрю практически любой софт (и скорее всего любое инженерное изделени) средней сложности легко повторит 1 человек за 2-3 месяца, на то что раньше уходили сотни тысяч долларов. Бороться с этим будут тем что как я и писал самые крутые и актуальные модели для решения проблем бизнеса будут или закрыты или за огромные $$$$ на подписку, для масс оставят то что генерирует видео про котиков и тому подобный бесполезный хлам.
Интересно что возможная сингулярность и начало третьей мировой практически сходятся в одной точке по времени.
Системе не нужно столько людей и она находит способ решить вопрос

[Robin Bobin]

На самом деле просто возрастет степень сложности проектов. То есть то, что сейчас делают разработчики или инженеры - это будет веком до ИИ. Следующий уровень разработки программ и механизмом будет на порядок сложнее и выше того, что делается сейчас. Это просто скачок на другой уровень. Через 3-5 лет мы увидим результаты этого. Жизнь будет меняться очень быстро, в жизнь войдет очень много разных решений, которые еще два-три года казались невозможными. То есть просто качественный скачок цивилизации, как в свое время это произошло с появлением ДВС и электричества, затем атома, затем электроники и интернета. То, что структурные изменения всех отраслей приведут к тому, что многим придется перестраиваться, так и в 90е годы так было, когда кто-то влетел в новую эру, а кто-то не смог. Я вижу только перспективы.

[OtherSide]

Суть сингулярность это когда средства для решения задач растут быстрее чем сложность самих задач.
Эффективность растет экспонентциально. Не потому что сам ИИ умнеет, а потому что инфраструктура выстраивает саму себя. Почему такой рывок последний год? Не потому что ИИ сам по себе стал умнее, но он под капотом научился сам себе ставить вопросы, на них отвечать, проверять ответы, выходить в интернет.
Те цепочки где был нужен человек (обычно он выступает просто коннектором для передачи данных) встраивается модель и там буст не чуть-чуть, а сразу на 2-3 порядка
ЛЛМ не обязательно быть гением, у него может быть IQ хоть 70, но он легко тиражируется и грубо говоря триллион идиотов решат задачу над которой один гений сидел был пол жизни. Ну ок, не гений, а скажем так среднесложная промышленная задача. Впрочем он уже и топовые мат. задачи щелкает

[Robin Bobin]

Суть сингулярность это когда средства для решения задач растут быстрее чем сложность самих задач.
Эффективность растет экспонентциально. Не потому что сам ИИ умнеет, а потому что инфраструктура выстраивает саму себя. Почему такой рывок последний год? Не потому что ИИ сам по себе стал умнее, но он под капотом научился сам себе ставить вопросы, на них отвечать, проверять ответы, выходить в интернет.
Те цепочки где был нужен человек (обычно он выступает просто коннектором для передачи данных) встраивается модель и там буст не чуть-чуть, а сразу на 2-3 порядка
ЛЛМ не обязательно быть гением, у него может быть IQ хоть 70, но он легко тиражируется и грубо говоря триллион идиотов решат задачу над которой один гений сидел был пол жизни. Ну ок, не гений, а скажем так среднесложная промышленная задача. Впрочем он уже и топовые мат. задачи щелкает

Да, но ИИ лишен доступа к внешним данным снаружи реальности. То есть одно дело решить задачу, которая уже существует. Другое дело увидеть то, чего нет. Будет прорыв в доказательстве гипотез, это да. Но ИИ может бесконечно долго иметь пустые пятна из-за отсутствия точек входа в эти пространства даже на уровне предположений.

[OtherSide]

Ну хорошо а люди этого не лишены? Мы же тоже воспринимаем информацию во многом через пересказы, через интернет, через СМИ
Я тоже раньше думал что мышление невозможно без непосредственного опыта и не верил что у них что то получится, но это оказалось не так

[мышка Машка]

Суть сингулярность это когда средства для решения задач растут быстрее чем сложность самих задач.
Эффективность растет экспонентциально. Не потому что сам ИИ умнеет, а потому что инфраструктура выстраивает саму себя. Почему такой рывок последний год? Не потому что ИИ сам по себе стал умнее, но он под капотом научился сам себе ставить вопросы, на них отвечать, проверять ответы, выходить в интернет.
Те цепочки где был нужен человек (обычно он выступает просто коннектором для передачи данных) встраивается модель и там буст не чуть-чуть, а сразу на 2-3 порядка
ЛЛМ не обязательно быть гением, у него может быть IQ хоть 70, но он легко тиражируется и грубо говоря триллион идиотов решат задачу над которой один гений сидел был пол жизни. Ну ок, не гений, а скажем так среднесложная промышленная задача. Впрочем он уже и топовые мат. задачи щелкает

А уж ошибок наделают!

[OtherSide]

Есть автоматическое тестирование против ошибок. Какая разница код индусы пишет или ЛЛМ, есть промышленные способы контроля качества

[Robin Bobin]

Ну хорошо а люди этого не лишены? Мы же тоже воспринимаем информацию во многом через пересказы, через интернет, через СМИ
Я тоже раньше думал что мышление невозможно без непосредственного опыта и не верил что у них что то получится, но это оказалось не так

ИИ не решает задачу в прямом смысле слова, он оценивает вероятности на основе запроса. Люди так же делают. Разница только в скорости и объеме входящих данных. Но если взять математику, то в работе с ней задействованы только те области знаний ИИ, которые относятся непосредственно к текущему запросу. То есть те области, где сами математики тоже владеют очень большими знаниями. Но у ИИ есть преимущество, он может подсвечивать связи, которые почему-то ранее были неочевидны. И вот как раз в этих точках и будут прорывы.

[Ion Tichy]

...Но у ИИ есть преимущество, он может подсвечивать связи, которые почему-то ранее были неочевидны. И вот как раз в этих точках и будут прорывы.

Сдаётся мне, что отношение сигнал/шум в этой подсветке будет неприемлемо плохим.

[Robin Bobin]

...Но у ИИ есть преимущество, он может подсвечивать связи, которые почему-то ранее были неочевидны. И вот как раз в этих точках и будут прорывы.

Сдаётся мне, что отношение сигнал/шум в этой подсветке будет неприемлемо плохим.

Тут главное, не наличие шума, а наличие логической связи. Если хотя бы один человек, где-то случайно увидел эту связь и зафиксировал в информацию, на которой обучали модель, даже при условии, что 100 человек пытались туда войти и сказали, что это фигня и не работает, если ИИ видит логику, которая лучше объясняет какие-то процессы, то она подсветит ее как наиболее вероятное решение.

[OtherSide]

Ну хорошо а люди этого не лишены? Мы же тоже воспринимаем информацию во многом через пересказы, через интернет, через СМИ
Я тоже раньше думал что мышление невозможно без непосредственного опыта и не верил что у них что то получится, но это оказалось не так

ИИ не решает задачу в прямом смысле слова, он оценивает вероятности на основе запроса. Люди так же делают. Разница только в скорости и объеме входящих данных. Но если взять математику, то в работе с ней задействованы только те области знаний ИИ, которые относятся непосредственно к текущему запросу. То есть те области, где сами математики тоже владеют очень большими знаниями. Но у ИИ есть преимущество, он может подсвечивать связи, которые почему-то ранее были неочевидны. И вот как раз в этих точках и будут прорывы.

Там где есть возможность верифицировать результат автоматически появляется прорыв. Почему с версткой/дизайном все еще результат на троечку? Потому что нельзя автоматически проверить результат, нужен человек, что бы сидеть и делать сотни запросов
В инженерных или аналитических задачах можно написать автотесты, и ЛЛМ может делать хоть по 50 000 запросов
Преимщуество машины перед человеком в том, что если задача принципиально может быть им решена, то считай она уже решена
У человека все не так - ему нужны деньги, мотивация, подбор кадров и т.д.

[rover]

Да, Маск прав, фарш уже полез и его не провернуть назад.

[rover]

Слушал подкаст с Либерманами (болтуны такие просто жуть). Говорят что у каждого будет свой робот за $10К скоро (как автомобиль, ничего особенного). И типа они роботы нас пока не заменят а просто будут помогать увеличить продуктивность в 4 раза. Так вот страны третьего мира где роботы будут недоступны, сразу отсекутся от мирового глобального рынка, и продолжат вариться только с собственном соку. То есть произойдет еще большее расслоение стран на бедные и богатые.

Я ничего пока не понимаю что будет с экономикой, если роботы будут вкалывать за меня. Но если они лишь будут мне помогать, это видимо будет иметь больший смысл. Представьте что один талантливый работник создает чтото шедевральное сам, без ИИ. А другой без особых талантов имеет лишь одну способность подключить ИИ к решению своих задач (это тоже талант) и создает точь такой же шедевральный контент но в 4 раза быстрее.

Вот, это я вижу.

[OtherSide]

Я столкнулся с тем что создавать софт стало беспрецендентно дешево. За прошлый год я сделал 4(!) стартапа
На каждый примерно 2 месяца тратил. По объму работы без ЛЛМ это бы заняло по 1 году на каждый
Проблема в том что это никому не нужно - не один я такой умный - параллельно еще команды работают и одновременно похожее выкатывают. Но у конкурентов лучше маркетинг и продвижение, есть на это бюджет. Проблема в том что всн бесплатные каналы продвижения сейчас заблокированы. Сейчас все соц. сети платные, продвижения в поисковиках тоже. Плюс народ пресытился нужно сильно уговаривать что бесплатные инструменты использовать

Могут зарабатывать только корпорации которые встраивают новые инструменты в свою экосистему, т.е. у них уже есть жирные каналы продаж. Короче как я и писал - богатые богатеют, бедныее беднеют. Удар не только по наемному труду но и по малому и даже среднему бизнесу. Смотрел ролики где многие конторы стонут потому что ЛЛМ поломал их бизнес модель - раньше они генерировали бесплатный контернт и жили с рекламы, теперь это абсорбирют ЛЛМ и перенаправляют чужой контент через себя по сути

[Пупхен]

В футуристическом фильме мелькнуло: я успел стереть ненужные аппликации до того, как это стало очень дорогой платной услугой.
То есть аппликации-то бесплатные, но навязанные в пакете с гаджетом. А платить нужно будет за то, чтобы от них избавиться!

[OtherSide]

Ничего нового, так любой серьезный бизнес работает. Так подсадили на электричество и автомобили, теперь люди вынуждены платить за бензин и счета за свет, с этого не спрыгнешь
Без ЛЛМ не сможет работать не один бизнес в ближайшие годы, потому туда триллионы и льют, ставки очень высоки

[Пупхен]

Ничего нового, так любой серьезный бизнес работает. Так подсадили на электричество и автомобили, теперь люди вынуждены платить за бензин и счета за свет, с этого не спрыгнешь
Без ЛЛМ не сможет работать не один бизнес в ближайшие годы, потому туда триллионы и льют, ставки очень высоки

Да. Без мобильного телефона уже не проживешь. Он уже навязан.

[OtherSide]

Ничего нового, так любой серьезный бизнес работает. Так подсадили на электричество и автомобили, теперь люди вынуждены платить за бензин и счета за свет, с этого не спрыгнешь
Без ЛЛМ не сможет работать не один бизнес в ближайшие годы, потому туда триллионы и льют, ставки очень высоки

Да. Без мобильного телефона уже не проживешь. Он уже навязан.

Почему навязан? Вы можете отказаться от автомобиля и ездить на лошаде, жить при свечах, лично приходить и общаться и т.д.
Так вы сделаете свой посильный вклад в Борьбу

[Пупхен]

Да. Без мобильного телефона уже не проживешь. Он уже навязан.

Почему навязан? Вы можете отказаться от автомобиля и ездить на лошаде, жить при свечах, лично приходить и общаться и т.д.
Так вы сделаете свой посильный вклад в Борьбу

Я разве про автомобиль написала?
Или про то, что я с чем-то "борюсь"?

[OtherSide]

Вы уже не первый год ходите в мои темы и пишите что вам кто то навязывает. Никто вам ничего не навязывает, я наоборот буду очень рад если как можно меньше людей будет пользоваться и как можно дольше внедрятся. Вас тоже никто не будет заставлять, просто рынок поменяет требования и все, если сможете подстроится и все делать как раньше но в 5-10 раз быстрее за те же деньги - отлично