Борис ДОЛИНГО
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ЯДЕРНАЯ БОМБА
Точка зрения
Ещё в 2023 году в США был подан первый иск о якобы нарушении авторских прав нейросетью (https://pravo.ru/news/244964/). Группа художников подала коллективный иск к компаниям Stability AI Ltd., Midjourney Inc. и DeviantArt Inc. за использование защищённых авторским правом изображений для обучения искусственного интеллекта. По мнению истцов, для обучения нейросетей, создающих изображения, использовали миллиарды изображений без согласия их создателей и правообладателей.
Создатели же нейросетей считают, что используют изображения добросовестно и в достаточной степени меняют первоначальные образы.
(Из материалов Bloomberg)
Признаться, когда появились первые образцы работы искусственного интеллекта (ИИ) в области графических изображений, а потом и музыки, и даже литературы, я подумал, что подобные иски не за горами. Но что характерно: после 2023 года лавины подобных исков не возникло.
Давайте порассуждаем, насколько такие иски обоснованы, и стоит ли опасаться людям-творцам, что ИИ вытеснит их куда-то на обочину творчества. Да и, вообще, – плохо ли это, если ИИ создаёт что-то в области искусства.
Прежде всего, давайте взглянем на тех первых «борцов» за права творческих людей. Истцы того первого иска – авторы комиксов «Не хочу взрослеть» (Sarah Scribbles) и «Клыки» (Fangs) Сара Андерсен, художница Келли Маккернан и концептолог Карла Ортис. Что важно: помимо компенсации ущерба, они просят суд запретить ИИ-генераторам изображений использовать работы художников без разрешения.
Заметьте: первые истцы – авторы комиксов. И в этом нет ничего удивительного. В общем-то, комиксисты – как раз тот тип художников, которым ИИ действительно может составить конкуренцию.
После этого подобные иски подавались уже не раз – и от художников, и от писателей, и от композиторов. Скорее всего, это были творцы примерно того же ранга, что и первые истцы. Не думаю, что подобные иски подавали бы Лоран Парселье, Джереми Манн или Юстина Копаня. Ну или наши Никас Сафронов или Сергей Маршенников. Настоящие художники явно ИИ не опасаются.
Насколько могу судить, правоохранители весьма озадачены: ситуация многим из них справедливо представляется весьма неочевидной. В большинстве случае претензии авторов отклоняются из-за отсутствия прямых доказательств нарушения авторских прав. Из этого мы видим, что среди судей, к счастью, хватает здравомыслящих людей.
Но прецеденты весьма характерные. Вот он – типичный пример как отдельные группы людей стремятся сохранить монополию на свою профессиональную деятельность, нимало не задумываясь, имеют ли подобные претензии достаточно логичные основания. В случае подобных исков речь, фактически, идёт о попытках группы лиц сохранить исключительно за собой монополию заниматься искусством и творчеством на неком «профессиональном» уровне. То есть речь о лицах, которые либо получили образование в конкретной, скажем так, творческой сфере или уже имеют опыт работы в этой сфере, и по наличию данного образования или опыта как бы имеют право называться «профессионалами».
А монополия эта из их рук сейчас явно уплывает, поскольку развиваются наука и технологии, и понятие «традиционный художник» (композитор, писатель) серьёзно трансформируется самой жизнь. Более того, сомнению тут может подвергаться уже сам термин «профессиональный», поскольку при помощи ИИ человек, даже не имеющий серьёзного опыта (и уж, тем более, образования) в сфере искусства, но имеющий в душе то, что называется, «творческим началом», «творческой жилкой» (ну, вы меня, надеюсь, понимаете?), может создавать порой что-то очень даже оригинальное и интересное. Но какое основание и право имеют так называемые «профессионалы» от искусства требовать запретить другим людям, пусть и не относящимся формально к их «творческому цеху», пользоваться возможностями ИИ для создания произведений искусства? А ведь они требуют именно это.
Тут я сразу подумал о сфере, которая близка мне в первую очередь – о литературе и работе писателя (ну и ещё о песенном творчестве, как об увлечении юности).
Расширим временное пространство для сравнений. Вот, смотрите: ещё какую-то тысячу лет тому назад людей, умевших читать и писать, в любой стране можно было чуть ли не по пальцам пересчитать. Писцы, которые могли записать указ властителя, по логике современных борцов против ИИ должны были бы костьми ложиться, чтобы не допускать распространения грамотности. (И кто его знает – возможно, где-то так и случалось, просто об этом уже позабыли). А после того, как Иоганн Гуттенберг начал книги печатать, писцы должны были бы бунтовать и против книгопечатанья! Ведь их же лишали монополии, и напечатать книгу по готовым матрицам теперь мог кто угодно. Надо же, вот ведь какая несправедливость прогресса!
Да, плагиат и пиратство, как таковые, в сфере искусства – это именно преступление. Тут закон должен жёстко работать, как вообще закон должен работать жёстко против любого откровенного преступления, которое включено в реестр преступлений, называемым «Уголовным кодексом». Возьмём интернет-пиратов книг – что называют «пиратством» (воровством) в данном случае? Вот, например, писатель написал книгу, заключил договор с издательством, издательство её напечатало, собирается продавать и платить автору соответствующие гонорары и проценты. А пираты типа «Флибусты», не спрашивая ни издателя, ни автора, нагло взяли книгу, скопировали её и выставили в электронном виде на своей платформе.
Или более современная реалия: писатель написал книгу, оформил её и выставил в Сети в электронном виде, чтобы продавать и зарабатывать на существование. Заметьте: зарабатывать на честно созданном предмете творчества! А пираты, опять же, не спрашивая автора, нагло скопировали эту книгу и выставили опять же на своей платформе.
Да, на сайтах типа «Флибусты» денег с читателей вроде как не берут, но хозяева платформы живут на рекламе, поскольку к ним приходят за крадеными текстами десятки тысяч людей, создающих высокий трафик сайту, что привлекает туда рекламодателей, которые платят деньги владельцам сайта за размещаемую рекламу.
Такое следует наказывать? Безусловно! Потому что это факт присвоения чужой собственности, взятой без разрешения для получения прямого дохода. То есть в чистом виде присутствует воровство с целью наживы. Кроме того, тут имеет место развращение читателя, приучение его к халяве и неуважению чужого труда. (Кстати, я бы привлекал и тех, кто скачивает книги у пиратов – по-моему, тут легко можно даже существующую статью 175 УК РФ пристегнуть в воспитательных целях: не бери краденое!)
Или, скажем, создал человек (допустим, художник) некое изображение (картину, рисунок) – и с этой картины без разрешения автора стали делать копии и продавать. Или использовали в некой книге как иллюстрацию, или положили в основу рекламного плаката, получая за это деньги. Естественно, закон должен – обязан! – наказать того, кто незаконно стал использовать данное изображение. То же самое с песней: если без ведома создателя песни её где-то используют и прямо или косвенно на ней зарабатывают (привлекают людей на танцпол в ночной клуб и т.д.), надо наказывать воров.
Ещё раз подчеркну суть приведённых выше примеров воровства. Речь о том, что конкретный артефакт (роман, рисунок, песня), созданный творчеством конкретного автора, взят без его разрешения другим лицом, которое использует этот артефакт для получения прямого или косвенного дохода именно с применением данного артефакта. При этом автор артефакта не получает причитающейся ему доли с этого дохода.
А теперь проанализируем, что же требуют упомянутые выше истцы. Разве они требуют наказать пиратов, похитивших их конкретные произведения и зарабатывающих на каких-то конкретных произведениях этих «творцов»? Некая нейросеть (буду всё-таки далее писать для краткости «ИИ») обучалась рисовать на множестве изображений (и, в частности, на картинах этих художников). Ну да, этот ИИ обучался, а как иначе? Но ведь ИИ обучался рисовать «вообще», а не серийно штамповать конкретные изображения для продажи их точных копий. И с чего бы разработчики ИИ должны платить этим авторам лишь за факт такого обучения? Да, ИИ обучился стилистике конкретных авторов – ну и дальше что? Ведь создать картину (или роман, или песню) в стиле какого-то автора, вовсе не означает скопировать конкретное произведение! То есть это – не плагиат.
Тут уместно напомнить формальное определение плагиата.
«Плагиа́т – присвоение авторства произведения литературы, науки или искусства… Верховный Суд Российской Федерации разъяснил, что к плагиату относятся «объявление себя автором чужого произведения, выпуск чужого произведения (в полном объёме или частично) под своим именем, издание под своим именем произведения, созданного в соавторстве с другими лицами, без указания их имени» (Портал «Большая российская энциклопедия – https://bigenc.ru/c/plagiat-ce76be ).
То есть использование материалов любого творчества для обучения ИИ – не является плагиатом. Вполне естественно, что обучался графический ИИ на конкретных картинах. Но ведь и люди в художественных школах тоже обучаются на уже созданных картинах других художников. Что же теперь, обучавшиеся должны потом пожизненно платить с каждой самостоятельной созданной ими картины тем авторам, на чьих работах они когда-то обучались?! Или обучаться можно только на произведениях, на которые срок авторских прав истёк? Никому ещё такое в голову не пришло, к счастью. Чувствуете бредовость подобных претензий?
Начинающие композиторы и музыканты повсеместно учатся играть на музыкальных инструментах и музыкальную гармонию осваивают на примерах произведений других композиторов. Они тоже потом должны с каждой самостоятельно созданной песни или симфонии этим «мэтрам» отстёгивать денег? Ведь они с помощью их произведений стали сами композиторами!
А писатели? Все, кто становятся писателями, читали книги, написанные до них, и во многом учились писать на примерах произведений Чехова и Мопассана, Уэллса и Стругацких, или наших современников таких, как Лукьяненко, Головачёв или Пелевин. Так может быть потребовать, чтобы все те, кто читали книги, а потом стали профессиональными писателями, платили роялти уже со своих собственных книг тем писателям, на книгах которых они выросли, или наследникам этих писателей?
Ну, если экстраполировать иск этих художников, то точно такую же извращённую «логику» можно выстроить и в смысле литературы! Да и вообще мы же каждый раз точными копиями существующих букв пользуемся, когда книги этими буквами пишем! Давайте обяжем всех платить создателям азбуки – тут же плагиат в чистом виде… Похоже, тут нас спасает только одно: Кирилл и Мефодий давно умерли, и срок охраны авторских прав закончился, а прямых наследников не найти.
Безусловно, если писатель/композитор/художник создал книгу/песню/картину, которая слишком явно повторяет сюжет/мелодию/пейзаж, сделанные другими творцами, то тогда – да, надо привлекать за плагиат, подавать в суд. (На такие случаи, кстати, норма закона существует о процентах совпадения отдельных элементов произведения – всё логично.) А эти «маляры», видите ли, захотели, чтобы априори им платили за то, что ИИ обучается на их картинках. Ну а почему тогда и человек-художник, который на ваших картинках, возможно, обучался, не должен вам платить? Да вы с ума сошли, господа авторы?
Небольшое общее отступление.
Вообще технический прогресс порой весьма неожиданно меняет и ломает многие устоявшиеся представления и понятия. Я уже приводил пример про книгопечатанье – возможно, писцы и не бунтовали конкретно против возможности всеобщей грамотности и чтения. Но уверен, что во времена Гуттенберга случались рассуждения, что, де, книга печатная – это совсем не то, что книга, написанная буквально «душой писца», стекавшей в строчки с кончика пера.
Сильно сомневаюсь, что прямо вот у всех писцов тех времён «душа» стекала с кончика пера – куда больше было простых ремесленников, которые «гнали вал» без всякой «души». Но сегодня всё ещё слышишь похожие рассуждения, что бумажная книга, конечно же, совсем иное дело, чем книга электронная! Тут ведь и шелест страниц, и запах книги, и т.д., и т.п.
Но я уверен, что так рассуждают люди, довольно закостенелые и элементарно увязшие в своих дремучих привычках. А многие традиционные писатели (как правило, это люди уже достаточно зрелых возрастов) продолжают стонать о том, что их не издают на бумаге, и скорбят о временах, когда тиражи бумажных книг исчислялся десятками тысяч даже у весьма посредственного автора. Увы, большинство из таких писателей не хочет признать и осознать тот факт, что ныне просто совершенно нет смысла вырубать деревья на бумагу для книг 9 из 10 современных авторов. А в электронном виде, если книга писателя чего-то стоит, то её сегодня потенциально могут прочитать в тысячи раз больше читателей, чем при выпуске на бумаге.
Наверное, на большинство авторов и 100 лет назад бумагу не стоило тратить, но тогда просто других носителей для текста не существовало. Сегодня носитель для текста есть очень дешёвый – электронные устройства. А ведь «книга» как таковая – это не папирус, пергамент или бумага, это, прежде всего, именно текст, созданный автором. И слава богу, если человек читает – не важно, читает он текст на листе бумаги или на экране компьютера. И авторы, льющие слёзы по поводу того, что огромные бумажные тиражи ушли в прошлое, никак не хотят это осознать в силу собственной беспочвенной гордыни и примитивного эгоизма.
Я не против бумажных книг – уверен, они останутся. Просто тиражи их сегодня совершено не нужны в таком объёме, как когда-то. А выбор-то всегда остаётся: хочешь читать бумажную книгу – читай, возможность такая есть. Но, конечно, она сегодня уже никак не может стоить копейки. Ведь и тиражей по сто тысяч уже никогда не будет, да и книга сама по себе является в большей степени «произведением искусства», чем электронный текст, – ту никто не спорит. Хотя оформление возможно и для книги электронной – та же «обложка», иллюстрации – почему нет? Также неоспоримое преимущество электронной книги – её компактность: на одно небольшое устройство можно загрузить тысячи книг, и они всегда будут у тебя под рукой.
Но вернёмся к вопросам ИИ.
Недавно один мой знакомый творческий человек, скажем так, формально считающийся профессионалом, сказал, что ИИ его страшит больше, чем ядерная бомба. Далее в разговоре выяснилось, что ИИ страшит этого творца не тем, что он как в «Терминаторе» уничтожит человечество (такую глупость этот товарищ, к счастью, не предполагает), а тем, что, якобы, «ИИ отнимет хлеб у творческих людей, и каждый дебил сможет писать книги».
Возражу таким гражданам: нет, каждый дебил даже с помощью ИИ качественное литературное произведение не создаст. И картину интересную не создаст. И песню оригинальную не сделает. Потому что для создания любого достаточно интересного произведения искусства ИИ требуется дать внятное и оригинальное задание –написать так называемый «промпт». Да и то у ИИ вот так сходу, с первого раза, скорее всего, не получится сделать то, что соответствует точно представленному заданию. И тому, кто задание составляет, придётся немало потрудиться, формулируя промпт так и этак, пока он добьётся устраивающего результата.
Более сложная ситуация, наверное, именно с литературой, но об этом скажу чуть ниже. А пока отметим уровень допущения того товарища, о котором я вспоминал выше: если человечество сгорит в ядерном пламени, это не так страшно, как если у таких, как данный писатель, отнимут возможность писать! Но ведь цель «отнять возможность писать» никто и не ставит – скорее тут имеет место банальный страх, что ИИ сможет писать лучше, чем подобные «писатели». При этом данный писатель (точно знаю) именно своим творчеством реально на жизнь ничего не сумел заработать за четверть века своей так называемой литературной карьеры. Но ему страшно, что ИИ у него якобы «отнимет хлеб»! Страшно, что ИИ лишний раз продемонстрирует, что этот писатель-человек – просто плохой писатель. А вот ядерная бомба – совсем не страшно.
Так вот, снова к претензиям упомянутых «маляров» от комиксов к техническому прогрессу. Простой, хотя и довольно жестокий пример: случилось несчастье, человек потерял ногу – но хочет заниматься бегом. Ещё не так давно этому бедолаге можно было забыть про лёгкую атлетику. Но вот появились высокотехнологичные протезы – и многие люди, кто ранее однозначно был записан в инвалиды, ныне могут получить высокую степень свободы движения, и даже в Олимпиадах участвовать (вот только что наши паралимпийцы с огромным набором медалей вернулись из Италии). А по логике этих художников таким людям, получается, нельзя пользоваться протезами! Они же явно «нормальных» бегунов (у кого свои две ноги сохранились) этим ущемляют! Идиотизм, если кто-то скажет подобное на полном серьёзе, верно? Ну да, паралимпийцы пока не выступают с «обычными» спортсменами на одних полях, но кто знает, что будет ещё через какое-то количество лет? Дай бог, мы вообще слово «инвалид» забудем.
А ведь ИИ – это пока всего лишь именно «протез», но только протез для человеческого интеллекта. Это протез, который помогает восполнять какие-то недостатки, если у человека имеется серьёзное желание и творческий потенциал эти недостатки восполнить!
И важно чётко понимать, что ИИ не создаёт плагиаты – ведь рисунок морского пейзажа некого художника Сидорова, писавшего пейзаж кистью или карандашом, никому в голову не придёт назвать плагиатом с картины, допустим, Айвазовского. Ну или давайте назовём роман «Аэлита» Алексея Толстого плагиатом на «Джона Картера – марсианина» Берроуза. А что – ведь и там про Марс, и там! Неужели не плагиат в чистом виде?! Ах, не плагиат, всё-таки? Тогда почему же картину, созданную ИИ, но совершенно с иным сюжетом, чем у некого «художника», пусть и в стиле письма этого художника, хотят объявить плагиатом? Тут явно не нормальная логика, а меркантильность, причём весьма в тупой, неприкрытой форме.
В рамках столь извращённой логики то же самое при желании можно сказать и о текстах, написанных ИИ, и о музыке. Но ИИ не плагиатор – это инструмент (протез, если угодно), помогающий людям создать свою картину или песню, когда у них имеются свои творческие замыслы, есть воображение, но нет навыков держать кисть или играть на гитаре. Ведь, как уже было сказано, для того же ИИ требуется сначала сформулировать задание, так называемый «промпт». ИИ, конечно, и без подробного промпта напишет песню, если ему выдать хотя бы самое примитивное указание типа: «Сделай песню про то, как люди плывут в лодке через бурное море». И, вполне возможно, получится совсем неплохая музыка и даже местами вполне приличные стихи (только местами, всё равно придётся стихи редактировать – это 100%). Но в таком случае это будет уж точно не ваша песня, а именно «песня от ИИ». Тем не менее, всё равно и это никак не плагиат, потому что ИИ обучают делать всё так, чтобы его работы максимально не повторяли ничего из уже существующего. И у ИИ уже давно получается так, чтобы ничего не повторялось – ведь он за мгновения обрабатывает огромные массивы информации. А нот-то, кстати, всего 7, на минуточку, – и сколько уже лет люди пишут прекрасную музыку. Правда, стоит заметить, что на то количество композиторов, какое было, есть и будет, прекрасной музыки не так уж и много создано. Как создано не так уж много действительно выдающихся литературных произведений на то число писателей, особенно из тех, что сегодня льют слёзы, что их не издают на бумаге.
Не могу не сказать о музыке, мне эта тема очень небезразлична. Например, у человека есть собственные стихи, оформленные как песенный текст – но сам он не умеет играть на музыкальных инструментах, и нет у него голоса, чтобы спеть самому. Но при этом у человека есть некое «представление» о звучании той песни на его стихи, которую он хотел бы услышать. Он даже «слышит» эту мелодию у себя в голове и достаточно образован, чтобы представлять, какие музыкальные инструменты можно было бы задействовать для исполнения – как ему быть? Ещё всего каких-то лет десять тому назад такому потенциальному автору песни оставалось бы только искать какого-то так называемого профессионального музыканта и умолять сделать песню на эти стихи. И не факт, что этот профессионал (даже за деньги) сделал бы на стихи автора что-то реально интересное, поскольку «профессиональный музыкант» – отнюдь не синоним «талантливого композитора». А ИИ – будьте уверены! – сделает на стихи поэта (особенно, если у этого поэта есть музыкальный вкус и понимание музыкальных стилей) такую песню, какую вряд ли сделает кто-то из тех «профессионалов», до которых наш поэт в реальной жизни сможет достучаться. Ведь не то что к Полу Маккартни, а даже к Игорю Крутому наш поэт никогда не сможет попасть с такой просьбой.
А ИИ в вопросе создания песни на 200% заменит провинциальному поэту Игоря Крутого, не говоря уже о каком-нибудь Диме Маликове – уж точно песня поинтереснее получится, чем, например, «Ты одна, ты такая». То есть ИИ – это инструмент, доступный практически каждому и расширяющий возможности человека, который хочет творить, но в чём-то ограничен. Например, не имеет хорошего голоса для того, чтобы петь, или не умеет сам играть на музыкальных инструментах. Но вполне себе представляет, как звучат разные музыкальные инструменты.
Или что – в таком случае автор стихов должен обязательно пойти и заплатить музыканту-человеку, чтобы тот написал на его стихи песню, а певец-человек её спел? И, повторяю, не факт, что человеки хорошо напишут и споют. А ИИ даёт возможность любому с помощью ИИ создать полноценную песню на свои стихи уже сразу с очень качественным исполнением. И это здорово! «Инструмент» – вот ключевое определение для ИИ в творческом смысле! Без топора никакой, даже талантливый плотник, не срубит не то что храм, но даже простую избу.
Предвижу возражения типа: а если стихи у провинциального поэта – дрянь? Песня-то всё равно дрянь хоть даже и музыка хорошая. Конечно, это будет дрянь, поскольку в хорошей песне качественными должны быть и мелодия, и слова, и исполнение. Но это всё равно никак не может считаться «плагиатом». А уж решать, дрянь это или не дрянь, должен слушатель, но никак не некий «профессионал», который хочет запретить сам факт возможности создания песен (картин, романов и т.д.) с помощью ИИ.
То же самое и с рисунками. Вот хочет автор сделать иллюстрации к книге, которую он готовит к выпуску сам – сегодня это не сложно, особенно если книга электронная. И желает автор иметь иллюстрации в книге и некую соответствующую обложку. С помощью графического ИИ он при минимальных навыках самостоятельно может сделать все иллюстрации весьма качественно. Или что – он обязан обязательно нанять профессионального художника-человека? А если у него нет денег на художника, то пусть забудет об иллюстрациях, так что ли? Но почему?!
Так же ИИ может помочь с корректурой рукописи, и если у писателя не хватает собственной грамотности, но рождаются интересные сюжеты, то это будет реальная помощь. Или автор просто обязан нанять человека-корректора? (Кстати, а вот с художественной редактурой рукописи ИИ пока полноценно помочь всё же не сможет).
В общем, по той же логике, если у человека нет ноги, то нельзя ему никак бегом заниматься. Сволочная логика, и если кто-то такой логике следует, то он либо старается сохранить личные не слишком обоснованные преференции, либо… Ну, скажу прямо: либо это просто очень тупой индивидуум.
Сложнее всего в этом вопросе, наверное, для писателей: по промпту в десяток-два слов путный роман ИИ точно не напишет. Для того, чтобы ИИ написал внятный и интересный роман или хотя бы рассказ, ему потребуется подать очень объёмное задание – буквально сделать подробнейший синопсис. А человек же, который сможет сделать развёрнутый промпт, по которому современный нам ИИ напишет интересный роман, уже явно не дебил!
Ведь для создания с помощью ИИ интересного романа никак не достаточно короткого указания типа: «Напиши роман о том, как нуждающийся студент Федерального университета убивает бейсбольной битой богатую владелицу ресторана». Во всяком случае, ИИ не сможет этого сделать до тех пор, пока себя не осознает полноценной «личностью». Не буду зарекаться, что до такого момента очень далеко, но просто если подобное (ИИ осознает себя личностью) случится, то ему уж точно не потребуются указания «любого дебила». Да и когда такое случится, людей явно станут волновать ещё множество новых проблем, а не только вопросы охраны авторских прав.
Но даже сегодня ИИ может существенно ускорить процесс написание рассказа или даже романа при условии, что автор многое в сюжете продумал, сделал какие-то предварительные наброски и т.п. Ещё большую пользу ИИ может оказать писателю для обработки и шлифовки уже написанного материала. И это хорошо. Не факт, что роман, прошедший шлифовку и, тем более, полностью написанный ИИ, будет интересный (скорее всего, пока точно не будет), но ведь и без всякого ИИ живые авторы-люди десятилетиями выдают сотни тонн явной белиберды. Может, их всех надо наказывать за это?
Нет, конечно. Но чтобы создатели творческой халтуры не плодились, как кролики, нужно не с ИИ бороться, а нужно воспитывать грамотного человека, ценящего настоящее искусство и литературу. Нужно учить людей понимать разницу между, например, такой «картиной» как «Собака» (Жоан Миро) и тем же «Завтраком на траве»; между «Жуком в муравейнике» и тупыми штамповками про «попаданцев», наводнившими сегодня прилавки магазинов, и особенно электронные порталы. Между песенками для умственно отсталых подростков типа «Sigma boy» и великим «The show must go on». Про музыку «The Beatles» или «PinkFloyd» вообще молчу.
Вот она проблема: человека надо воспитывать! Всё всегда в человека упирается, а не в искусственный интеллект.
И уж точно не в ядерную бомбу.



Борис ДОЛИНГО 


Блестяще!