О том, как нейросети изменят всё

Последнее время все больше думаю о нейросетях. И не только я. Вот, например, этот ажиотаж (долго подбирал слово, решил взять нейтральное) на АртСтейшен, когда художники протестовали против нейросетей. И многие боятся, что нейронки сейчас убьют художников как вид. Но все еще драматичнее.

Лет 10 назад я читал прогноз, что через 30 лет все в мире будут делать роботы. И видимо, это так. Художники — это первая ласточка. Роботы смогут заменить человека во всех профессиях. Вспомните, кем вы работаете, и осознайте, что в ближайшие десятилетия робот будет это делать лучше. Причем последними сдадутся дворники.

Такой мир не сможет стоять на тех основах, что стоит сейчас. И потому он неотвратимо измениться. В целом, тот мир будет лучше нынешнего, человек освободиться от «надо» и будет делать что хочет. Но переходный период может сопровождаться социальными потрясениями.

Но вернемся к художникам и их страхам Читать далее

Формула красоты

Есть еще одна причина, по которой нам нравятся изображения нейросетей. Нейросети используют (ненамеренно) формулу красоты.

Про то, почему нам красиво, никто, кроме меня, толком не знает. Но я вам расскажу.

Есть два источника красоты. Биологический и эвристический (который тоже растет из биологии но иначе). С Биологической красотой все понятно. Нам кажется красивым то, что полезно для выживания и размножения. Человек противоположного пола, дети, еда…. А вот многоножек большинство не считают  красивыми. Но красоту многоножек можно увидеть, если посмотреть на них с точки зрения второго вида красоты.

Читать далее

У нейросетей, которые пишут тексты есть существенный баг. Совершенно непонятна достоверность информации. Они правдоподобно ответят на вопрос, даже если ответа у них нет. Спросишь про периметр (или даже про площадь) пятиугольного треугольника — ответит

Если же попросить привести пруф на какой-то факт, может привести реальный, а может выдать правдоподобно выглядящую но никуда не ведущую ссылка, или вполне достоверно смотрящуюся отсылку на несуществующую научную статью в журнале.

Но. Многие этого еще не поняли, но это хорошая новость. Потому что ставит перед разработчиками задачу автоматической верификации. Что-то подобное было описано у Нила Стивенсона в «Анафеме». Чтобы нейросеть могла не просто рассказывать о чем-то, а приводить релевантные пруфы, и выдавать разные точки зрения если их несколько с оценкой их достоверности (как в хороших статьях Википедии)

А эти системы верефикации могут оказатся сами по себе даже более полезными, чем сами текстогенераторы. Так что их можно будет использовать самих по себе для проверки любой информации.

#нейросети

Крипта

Подумалось, что крипта не просто так упала.

Некоторое время назад все сокрушались, что видеокарты стали неоправданно дорогими, из-за того, что их используют для майнинга.

Но не осознали, что помимо прочего, это значит, что стоимость крипты привязалась к стоимости железа для ее производства. А поскольку железо имеет реальный потребительский спрос, то именно оно будет устанавливать цену для крипты, а не наоборот.

То есть крипта сейчас — не абстрактные цифровые монетки, а валюта, привяканная к конкретному товару, и будет меняться с изменением стоимости этого товара.

И опять Credo

Я, кажется, начал нащупывать почву под ногами. И пора писать Credo :) Сорри, что длинно.
С давних пор меня ставик в тупик вопрос, кто ты, чем ты занимаешься. Я обычно не знаю, что ответить. Иногда даже придумываю какую-то версию, например «учитель астрономии», хотя именно астрономию я никогда не преподавал.

Потому, что честный ответ ничего не объяснит спрашивающему. Он звучит как «эмиссар других реальностей». Проводник в другие миры.

Читать далее

Смысл жизни

Я тут в очередной раз понял смысл жизни :)

Начнем, пожалуй, с бабочек книг.

Вот какой смысл жизни у книги? Для разных — по разному. Но если попытаться все-таки нати для тех, у которых он есть. Сюжет, характеры, язык — это все пути, которым достигается смысл. Этого может и не быть (в одних смысл образуют картинки, в других — разговоры.) И что же тогда делает существование книги осмысленным?

Все просто. То, что она классная!

Вот так же и с людьми.

Куда приводит антропный принцип

Времени не существует.

Именно так я хотел начать статью о том, как время можно вывести из антропного принципа. Однако, при дальнейшем рассмотрении этого вопроса, стало понятно, что с помощью антропного принципа можно объяснить вообще всё! Читать далее

Дихотомия добра и зла

Многие считают, что добро и зло — относительны. Это верно только во время войны. Тогда «у нас разведчики у них — шпионы» с каждой из сторон.

В мирное же время эти понятия — абсолютны. Добро и зло — это стратегии поведения. Стратегии в том смысле, в котором об этом писал Докинз. Он описывает эксперименты с состязанием различных програм, которые могут или сотрудничать или конфликтовать. Выигрывают программы, которые стремятся к сотрудничеству но при этом помнят и тех, кто против сотрудничества.

Собственно, добро — это сотрудничество, где выгоду получает не только тот, кто делает действие, но и другие (или, по крайней мере, не приводит других к потерям). А зло — это действия, от которых другим плохо. Никакой относительности :)

Человек, живущий на Луне в полном одиночестве, не делает ни добра ни зла. Но таких людей мало, чаще человек существует в социуме. Как правило, сообщество, состоящее из злых людей — нежизнеспособно — все просто перебьют друг друга за ресурсы. Что бы этого не произошло, приходится как-то договариваться между собой, и учитывать при своих действиях других. Так среди зла возникает добро. Сообщество, целиком состоящее из добрых людей в принципе вполне жизнеспособно. Но, уязвимо для зла. Например, бывают города, где двери не запирают. Если в таком городе появляется вор, он оказывается в выгодном положении относительно других, его стратегия оказывается выгодной. И со временем число таких воров растет. Но это число не может вырасти выше определенного уровпя, потому, что если уровень грабежей станет слишком большим, начнут принимать против этого определенные меры. Таким образом устанавливается некоторое процентное соотношение между добром и злом. И это соотношение — устойчиво. Ни добро ни зло не может победить полностью.

Замечу еще, что поскольку добро самодостаточно, а зло не может без добра (вору нечего будет красть, если все воруют и никто ничего не производит), добро всегда побеждает.

Абсолютное добро не является самой выигрышной стратегией. Описанные выше эксперименты, показывают, что наилучшие стратегии это те, которые перестают сотрудничать если не сотрудничают с ними. Переводя на язык этики, можно сказать, что над добром стоит справедливость. Но и это не последний этаж. Над справедливостью — милосердие. То есть, если кого-то справедливо наказать, то часто лучший результат в выживании социума получается, если его не наказывать.

Так что, идеальная стратегия такова. Добро, справедливость, милосердие. И это не какие-то абстрактные принципы, это просто чисто математически наилучшая стратегия жизни в социуме.

Андромеда

Пришло в голову, что поскольку Андромеда была дочерью царя Эфиопии, то она должна быть чернокожей. Как и ее родители, Цефей и Кассиопея.

Погуглил, инфы про это мало. Но нашел одну работу, где говориться, что есть версии, где ее считают черной, и те, которые ее считают белой (есть два основных варианта, где Андромеда эфиопского происхождения, и где — азиатского). Например, Овидий описывает Андромеду как девушку с черной кожей.

Есть и более экзотические варианты. Например, есть изображения, где Андромеда и Кефей белые, а их подданные — черные. Или есть вариант, что ее родители были черные, а она, к удивлению матери, родилась с белой кожей.

Трение

Как известно, первобытные люди добывали огонь с помощью трения. От трения предмет нагревается, и если температура воспламенения ниже, чем полученная при трении, этот предмет загорается.

И вот прошли десятки тысяч лет.

Смешно. Но когда мы пользуемся спичками, мы и сейчас добываем огонь с помощью трения!

Приятно чувствовать себя частью столь древней традиции :)

Роботы

А ведь когда-нибудь не мы будем ставить капчу, чтобы робот не ходил куда не надо, а наоборот, роботы будут ставить капчу, чтобы не пускать нас, куда не следует.

Это как-то обидно. :(

Заблуждения

В детстве я слышал истории о том, какая смешная раньше была наука. О мире, стоящем на слонах, об алхимии и астрологии, о всяком там теплороде и эфире.

И тогда я думал — какие смешные заблуждения. Но ведь не может быть, чтобы сейчас тоже их не было. И что же из нынешних знаний неправильное? Что Земля круглая? Законы физики? Что? Я искал, и не находил.

Читать далее

Собственность

Читаю сейчас «Секс на заре«. И вроде бы книжка о природном базисе секса, но мысли у меня внезапно возникают по поводу авторского права :)

Потому, что в книге утверждается, что до возникновения земледелия человечество жило в небольших группах, где все было общим. Дикие племена, не создающие запасов и сейчас так живут. Но как только появляются запасы, появляется собственность.

Так вот, собственность позволяет делать многие вещи. И во многих смыслах она — базис современной цивилизации. Но утверждать, что собственность хороша во всех сферах жизни — не правильно. Например, рабовладение — собственность на людей. Тот случай, когда в ней ничего хорошего. То есть, в некоторых областях нужно жить в другой системе.

Но культура построена на собственности очень сильно. И когда мы сталкиваемся именно с такими областями, когда владение не саммый эффективный путь, возникают проблемы.

Корень собственности — в накоплении. Но есть вещи, которые нельзя накопить. В частности, человеческий труд. Зато можно накопить продукты труда. Сложнее бывает в ситуациях, когда результат труда не продукт — а услуга. Услугу не накопишь. Но ее, тем не менее, еще можно обменять на деньги.

И тут мы сталкиваемся с таким странным явлением, как информационный продукт. Обычные предметы есть либо у одного, либо у другого. Их можно забрать у других и тогда у тебя они будут, у других нет, и ты получишь превосходство. Но с информационными вещами — не так. Сколько их не забирай, меньше их не становится. можно раздать всем, и у тебя меньше не станет. При этом вся культура с начала исторических времен основана на распределении ресурса… То есть информация полностью перпендикулярна всем тысячелетним наработкам человечества. Поэтому и попытки увязать ее с существующей реальностью идут так туго.

Выходит, что проблемы с авторскими правами гораздо глубже, чем кажется на первый взгляд. Вообщем-то глубиной со всю культуру. И разрешить их в нынешней парадигме не удастся (хотя решение есть, я писал об этом давным-давно). Чтобы найти решение надо научиться думать не в терминах собственности, а как-то иначе.