|
|
|
Искусственный интеллект
|
|
Группа: ЗАВСЕГДАТАЙ
Сообщений: 878
Замечания : 0%
В Штатах пытались смоделировать нейросеть мыши с помощью так называемого суперкомпьютера, который потреблял энергию сопоставимую с городом. В случае, если попытаться смоделировать человеческий мозг - что гораздо сложнее, то вполне логично, что мощностей понадобится больше, а чтобы всё это дело охлаждать, нужно будет использовать, например, целую реку, сопоставимую с Миссисипи. И это всё при том, что мозг работает настолько круто, что потребляет всего 12 ватт (могу немного ошибаться, но цифра несопостовима даже с потреблением персонального компа). Следовательно, компьютер, в привычном для нас понимании машины Тьюринга, скорее всего не путь к ИИ. Мозг же работает по принципу саморазвивающейся нейросети, что вкорне отличается от того, что мы привыкли называть машиной. Следовательно, если мы говорим об ИИ, то мы говорим не о тупой запрограммированной машине, а о саморазвивающемся живом существе, у которого все те же признаки, что и у нас - то есть, в первую очередь сознание. Такую биомашину рано или поздно создадут, но скорее всего, из интереса, а не для каких-то конкретных целей.
С другой стороны, развитие робототехники скоро замедлится, потому как есть закон Мура, и у этого закона есть пределы размеров и вычислительной способности машин. То есть время, чтобы взвесить все риски и подготовится у человечества есть. Не вижу ни одной действительно серьёзной причины для беспокойств или страхов. Паника вокруг ИИ подогрета СМИ, кино и литературой, где, как заметила Форри, всегда интересен "конфликт с кровавой баней", но, говоря о разуме, который нас, допустим, превосходил, не вижу причин для его агрессии.
Насчёт агрессии. Я уже где-то об этом говорила, но повторюсь.
Посмотрите на карту мира. На страны, где среднее интеллектуальное развитие выше, имеет всегда сильную правовую и толерантную политику, в обществах Европы, Штатов, Японии признаются права и свободы граждан, есть некое подобие адекватной демократии. В то же время в странах наиболее отсталых и, не хочу никого обидеть, но факт есть факт - у людей средний ай-кью ниже, чем у людей так называемого первого мира. Невооружённым глазом видна общая агрессивность населения стран третьего мира, популизм, жесткая теократия, диктатура, милитаристская демагогия. То есть, выводы тут такие - чем выше интеллект, тем менее агрессивен его носитель. Да, можно, например, со мной поспорить - сказать, дескать пиндосы и европейцы устраивали и устраивают воины, захватывают Ираки, свергают правительства... но по мне, это происходит в интересах защиты идеалов характерных для цивилизации первого типа. И происходит это точечно, хотя у развитых стран есть все средства для геноцида и насильственного завоевания половины земного шара, но они не пускают это в ход. Если бы у Хусейна была ядерная ракета, он бы её задействовал. То есть - вот вам и разница. Да, раньше, к примеру, европейцы, обладая техническим потенциалом, грабили более отсталые народы. Но те европейцы, в сравнении с современной европой, были на том же уровне развития, что и многие страны третьего мира сегодня. Американцы в сороковых и пятидесятых годах были на более низком уровне развития, и даже уступали уровню развития в СССР (где уже были некоторые признаки толерантности, хотя бы в отношении рас и национальностей). У Штатах - был узаконенный расизм, военная диктатура, и сброшенные на мирное население Японии "малыш" с "толстяком". Сегодня, такой расклад уже не возможен. Уровень развития - стал выше.
Следовательно - чем выше уровень развития, тем меньше агрессии.
Цитата Изморозь (  ) если бы оказались под контролем более низкоразвитых приматов?
В том-то всё и дело, что без разума создать искусственный разум нельзя. Мы к тому моменту уже не будем низкоразвитыми агрессивными приматами, шагнём дальше в развитии.
Цитата Изморозь ( ) Контроль над всеми сферами деятельности человека - это цель ИИ, которую мы же сами ему и поставим. Законодательная, исполнительная и судебная власть будут содержать сначала элементы ИИ (что уже практикуется), потом перейдут под полный его контроль.
Да, здесь вы называли важнейший элемент, свойственный будущей технократии. Но, не понимаю, зачем такой машине сознание. Достаточно будет иметь просто мощную вычислительную технику, и всё.
Цитата Изморозь ( ) ИИ стает вакцинировать человека и программировать его через мутацию днк на продолжительность жизни, выгодную себе. Никаких пенсионеров, выполнил свою роль - в топку.
Здесь не нужна никакая мутация в привычном понимании слова. Нужно смотреть геном, и, если посмотреть внимательно, то такая программа у нас уже есть, вызывает бесконтрольный принтинг клеток, который мы называем раком. А вот зачем ИИ использовать людей, если есть вычислительные машины, тут не знаю. Мы же не пытаемся делать из шимпанзе рабов.
|
Группа: МАГИСТР
Сообщений: 377
Замечания : 0%
Эльза, использования не будет, действительно зачем же. ИИ будет поддерживать видимость общества для самих людей до тех пор, пока не определится со своей ролью и значением человека для себя, обретя таким образом самосознание (ЕСЛИ такое и случится), но это все фантастические предположения (на сегодняшний день). По мне так ИИ в идеале не только должен отвечать на вопросы, но и задавать их себе, но это я уже наверно в философию полез.
Что касается вопроса агрессивности человека, хочу привести отрывок из интервью с Ф. Диком за 2 года до его смерти:
"— Во время второй мировой войны я был еще ребенком, и я вспоминаю, как смотрел однажды в кинотеатре военную хронику, и там были кадры, показывающие японского солдата, который попал под струю из американского огнемета; солдат горел заживо, а публика в зале радостно аплодировала и хохотала во все горло; я же сидел, оцепенев от ужаса — и от вида этого парня на экране, и от реакции публики, и, помнится, я еще подумал: «Что-то здесь ужасно не так». Много лет спустя, когда мне было уже за тридцать, и я жил в деревне, мне надо было убить крысу, которая повадилась шастать в детской. Крыс вообще трудно убивать. Для этой цели я поставил ловушку. Ночью крыса попалась в нее, и на следующее утро, когда я проснулся, она услышала мои шаги и начала визжать. Я подцепил ловушку вилами, открыл ее и выпустил крысу попастись: она вывалилась из ловушки, шея у нее было сломана. Я перехватил вилы поудобнее и всадил их в крысу, однако она все еще не умерла. И вот эта самая крыса -все, что она хотела, так только бегать и жрать — и вот она была отравлена, заколота, со сломанной шеей — и, тем не менее, она все еще продолжала жить. В этот миг я чуть было с ума не сошел от ужаса. Я выбежал, наполнил водой таз и утопил крысу в тазу. А затем похоронил ее, снял медаль Святого Кристофера, которую я носил, и похоронил ее вместе с крысой. И душа этой крысы с тех пор всегда со мной — как напоминание об условиях жизни всех живых существ в этом мире. Я просто не могу изгнать из себя душу крысы, которая умерла такой ужасной смертью. "
что-то здесь ужасно не так. Что-то не так с нашим миром. О каком прогрессе может идти речь в мире, в котором национальными героями становятся "фотографы" Волынской резни? Я лично очень сомневаюсь, что у тех, от кого это зависит, хватит ума не сорваться и не угробить этот мир к чертовой матери. Но конечно же верю в лучшее и в добрый ИИ)
|
Группа: ЗАВСЕГДАТАЙ
Сообщений: 878
Замечания : 0%
Дик очень правильно сказал, да и всегда говорил годно, потому что глубоко понимал те вещи, о которых он писал и говорил, по сути Дик - человек не своего времени, типичный неугодный власть имеющим интеллектуал, с весьма предельно корректными позициями по ряду острых вопросов, над которыми у большинства даже задумываться не принято.
Есть ещё один интересный персонаж, который иногда в ютубе правду-матку рубит интересно - это Жак Фреско. Несмотря на то, что он весьма сомнительный коммунист, у него часто проскакивают любопытные размышления по поводу техники, ИИ, человеческой культуры в целом, которые чем-то похожи на размышления Дика.
|
Группа: МАГИСТР
Сообщений: 377
Замечания : 0%
Жака Фреско видел ролики, улыбнули его рассуждения на счет всяких экстрасенсов) а это интервью Дика я читал на фантлабе, вот ссылка https://fantlab.ru/article86 может быть будет интересно почитать полностью
|
Группа: МОДЕРАТОР
Сообщений: 367
Замечания : 0%
Наверное мне тут следует напомнить про эксперименты Зимбарде и Милгрэма. Нашему поколению на блюдечке с голубой каемочкой поднесли демонстрацию того, что люди жестоки и агрессивны, в том числе законопослушные и интеллектуальные. Те, кто протаранил 11 сентября небоскребы, не были бедны и имели высшее образование. Быть камикадзе во время второй мировой было очень даже благородно. В какой-то момент убивать и мучить врагов было тоже вполне приемлемо. До сих пор во многих местах исправительной системы нет, есть только система наказаний.
Размышлять о том, что хорошо и что плохо, довольно увлекательно, но не имеет никакого отношения к тому, каким будет искусственный интеллект. Вы не знаете, какими будут социальные нормы на момент его создания. Вы не знаете, будет ли ИИ их придерживаться.
Когда человек видит чужую боль, у него активизируются разные участки мозга в зависимости от того, отождествляет ли он себя с тем существом, которое испытывает боль, нравится оно ему или нет. Есть нейрофизиологические исследования на эту тему.
Вы такие забавные, рассуждаете об искусственном интеллекте с каким-то совершенно абстрактным подходом, не зная даже, как работает ваше собственное понимание хорошего и плохого, и не способные установить единую систему ценностей для всех людей, не говоря уже о существе с потенциально совершенно другим пониманием мира и структурой мышления.
|
Группа: ЗАВСЕГДАТАЙ
Сообщений: 878
Замечания : 0%
Цитата Форри ( ) не были бедны и имели высшее образование. Быть камикадзе во время второй мировой было очень даже благородно. В какой-то момент убивать и мучить врагов было тоже вполне приемлемо.
так высшее образование далеко не показатель интеллекта. А вот быть камикадзе это скорее показатель культурного "богатства" энного персонажа.
Цитата Форри ( ) не способные установить единую систему ценностей для всех людей, не говоря уже о существе с потенциально совершенно другим пониманием мира и структурой мышления.
да, я не способна установить какую-либо систему ценностей, поскольку не собираюсь никому ничего навязывать. Пытаются установить для всех единую систему ценностей как раз те, кто врезается на самолётах в небоскрёбы и расстреливает людей в Париже. Пардон.
Что касается "существа с другим пониманием мира" - здесь не совсем поняла. Понимание мира может быть только одно - научное. "Другое понимание" уже не есть свойство ума, а просто заблуждение. Если мы говорим об ИИ, то его понимание мира должно быть только научным. Можно ли создать машину, способную заблуждаться? Ну, это другой тогда вопрос.
Цитата Форри ( ) Когда человек видит чужую боль, у него активизируются разные участки мозга в зависимости от того, отождествляет ли он себя с тем существом, которое испытывает боль, нравится оно ему или нет. Есть нейрофизиологические исследования на эту тему.
Тут поспорить вообще не могу. Есть такое. Но есть ещё и другое - эффект Маугли, например. Или почему разум это комплекс всех этих нейрофизиологических виброшвабр, там, вся эта электрохимия, которая отвечает за поведение, радость и злость, гнев и страдание, ненависть и сопереживание. Насколько сильна в этом роль социальной среды, а на сколько сильна роль генетики? Правда ли, есть гены, которые отвечают, скажем так, за склонность к совершению преступлений, или человеческая личность по большей части формируется средой (см эффект Маугли). Но в целом, вы говорите правильно, потому что мы действительно плохо знаем что такое мозг, человек, сознание. Но размышлять на эти темы, скажем так, с позиции научной фантастики, мне представляется интересным занятием.
Цитата Форри ( ) Размышлять о том, что хорошо и что плохо, довольно увлекательно
Нет, не размышляю, что такое хорошо, а что такое плохо. Мир поделён на чёрное и белое только в головах у людей, на самом деле всё серое, имхо. Вполне возможно, что моя синтетическая гипотеза насчёт взаимосвязи агрессивности и уровнем интеллектуального развития, при более детальном её рассмотрении не выдержит серьёзной критики. Вполне возможно. Но в таком случае, нужно будет открывать тему про так называемую "сучью цивилизацию берсеркеров" в которую превратятся интеллектуальные и агрессивные ИИ, созданные нашими потомками...
|
Группа: МОДЕРАТОР
Сообщений: 367
Замечания : 0%
Эльза, те, кто совершает преступления, в том числе преступления против личности, не отличаются по уровню интеллекта от генеральной совокупности, скажем так.
Истина - это вообще мутное понятие. Ньютоновская механика в какой-то степени верна, и какое-то время принималась как истина, и не противоречила науке. То же можно сказать о равномерности времени и пространства. Допустим, у ИИ будет научное понимание мира, а вот что будет научным пониманием мира на момент его создания? Ты можешь гарантировать, что наука не преобразится к тому моменту, что не преобразятся её принципы, как это произошло при отступлении от позитивизма? К тому же, научное понимание - то ещё не всё. Есть ещё этика, понимание того, что хорошо или плохо, ну или что следует делать и чего не следует, если "хорошо" и "плохо" слишком мутные слова.
Что до навязывания системы ценностей - опять же, это сплошные двойные стандарты. Допустим, ты ценишь человеческую жизнь и свободу. А кто-то ценит истину и не ценит человеческую жизнь. И под истиной он может понимать нечто совершенно не истинное на твой взгляд. Но поскольку ты ценишь жизнь, ты постараешься сделать так, чтобы он не имел возможности убить тебя или ещё кого-то за истину в его понимании. Будешь ли ты противодействовать агрессивным фанатикам? Нормально ли ограничивать их свободу или казнить?
Люди вообще удивительно умеют игнорировать то, что они, возможно, не правы в понимании того, что ценно. Нельзя убивать людей, нельзя ограничивать свободу просто так, прогресс это клево, наука это вообще супер - это мои личные убеждения. Собственно, всё это вертится вокруг моего чисто биологического инстинкта самосохранения, преображенного культурным воздействием.
Вне общества младенец просто сдохнет. Те дети, что хоть как-то выживали, попадали в лес отнюдь не в младенческом возрасте, у них уже был опыт взаимодействия с себе подобными. Без наличия определённых стимулов извне ни способности говорить, ни способности размышлять не появится. Дети сначала учатся говорить вслух, потом - про себя, потом - думать.
В отношении преступлений среда решает.
Гормональные виброшвабры в принципе работают довольно просто. Появился младенец. Получил вкусняшку или поглаживание - выработался дофамин. Сделал что-то, что привело к получению вкусняшки или поглаживания - выработался дофамин. Начал делать что-то, что может привести к получению вкусняшки или поглаживания... и так далее. И наоборот - сделал что-то не то - не получил вкусняшки, а вместо этого испытал стресс. Так и формируется система ценностей. Роль среды здесь практически 100%, потому что без неё младенец вкусняшек и поглаживаний не получает. А, ну ещё немного подражания, зеркальные нейроны, все дела.
От среды зависит даже то, как будет работать восприятие пространства. Практически все представители европейской культуры большую часть времени проводят в прямоугольных помещениях. У тех, кто находился в детстве в криволинейном пространстве, мозг даже морфологически немного иной.
Мы очень, очень биологичные, и практически полностью сформированы культурой. Настолько, что даже подумать страшно. Поэтому чем будет руководствоваться ИИ, я даже не представляю. Будет ли у него вшита система подкрепления, как у нас? Будут ли ему нравиться социальные поглаживания сами по себе? Что вообще будет регулировать его поведение? И опять же, человек себя переписать не может, а ИИ наверняка будет обладать самообучаемостью, не посчитает ли он, что данная система подкрепления неоптимальна? Может ли он впоследствии переписать себя? Да и вообще, будет ли оптимальность процессов для него ценна (с моей точки зрения - да, но это возврат к тому, что пока не ясно, как у ИИ будет устроена система подкрепления и какая в итоге у него сформируется система ценностей). Может, он захочет что-то сделать для человечества, а может, не захочет вообще ничего делать, потому что не будет видеть в этом смысла?
Какие уж тут ответы, тут и вопросы-то не знаю, какие задать. Для этого по-любому надо копать глубоко. Выбраться из своего биологического тела с биологическими закономерностями, посмотреть на всё это не изнутри регулируемого гормонами мозга, который боится смерти, а хоть немножечко извне. А то пока что я как ребенок, который прячется, закрывая свои глаза ладошками.
|
Группа: ЗАВСЕГДАТАЙ
Сообщений: 878
Замечания : 0%
Цитата Форри ( ) Истина - это вообще мутное понятие. Ньютоновская механика в какой-то степени верна, и какое-то время принималась как истина, и не противоречила науке.
Почти по всем параметрам согласна. Истина очень пафосное и совершенно не научное определение. Есть некоторые "пределы" знания, которые, расширяются с развитием науки и техники, и эти рамки переменные, в то время когда "истина" это что-то из разряда фундаментализма. Кстати да, Ньютоновская механика верна только в "какой-то степени", потому что тёмная материя с тёмной энергией ей не подчиняются. Почему так - никто пака не знает. Тоже самое и с самосознанием, мы различаем-то всего крохотную долю спектра, поэтому даже справедлив мем по поводу "видишь суслика? А он есть".
Цитата Форри ( ) И опять же, человек себя переписать не может, а ИИ наверняка будет обладать самообучаемостью, не посчитает ли он, что данная система подкрепления неоптимальна
Понятия не имею, но не согласна с "человек себя переписать не может" - да может, почему нет? В теории можно перепрошивать геном - законы физики позволяют; можно качественно развивать интеллект - начиная от приёмов ноотропных средств, заканчивая разного рода имплантациями, например, добавить нейроинтерфейс, тогда можно будет просто "силой мысли" подключаться к Интернету, и, допустим, безнаказанно списывать ЕГ. Нет, Форри, с человеком вопрос куда попроще, чем с ИИ, ведь мы только начали о нём говорить, а я уже чувствую, что зашла в тупик.
|
Группа: МОДЕРАТОР
Сообщений: 367
Замечания : 0%
Цитата Эльза ( ) Понятия не имею, но не согласна с "человек себя переписать не может" - да может, почему нет?
На данный момент. И я имела в виду скорее отдельного человека типа меня, а не некого представителя вида как такового. Ноотропы не оказывают существенного влияния на интеллект здоровых людей, у которых и так с кровообращением мозга всё хорошо. Переписать геном - не переписать себя. Это всё-таки переписать ещё не родившееся существо. С переписыванием генома взрослых людей сейчас всё довольно скорбно. А имплантировать пока особо нечего.
В будущем - наверняка  Надеюсь на это.
|
Группа: МАГИСТР
Сообщений: 377
Замечания : 0%
Прислали мне сборник Теда Чана, под прицелом повесть "Жизненный цикл программных объектов", судя по аннотации тема ИИ будет затронута. "История твой жизни" из этого же сборника на тему Контакта с инопланетянами будет кстати экранизирована.
|
Группа: ЗАВСЕГДАТАЙ
Сообщений: 878
Замечания : 0%
А не то ли это произведение, где челство как бы заранее приближение к СС (не ваффен, а солнечной системе) инопланетян не заметило? Если то, то... не знаю. Не могу есть то, что несъедобно.
|
Группа: МАГИСТР
Сообщений: 822
Замечания : 0%
Идеология определяет все: систему ценностей, мораль, отношения.
Например:
для каждой из враждующих стран существует своя святыня. Патруотизм одних вызывает ненависть других.
Идеология васем правит, а идеологией правит материальная выгода. Мы живем в продажном мире.
Коррупция- инструмент в руках идеологиий, она правит миром.Борясь с коррупцией , люди рубят сук, на котором сидят.
что касается человеческого сознания.
Нам дана интуиция, что значит связь с мировой системой, мировым энерго-информационным полем.
У машин такого нет. Поэтому они никогда не будут выше человека.
|
Группа: ЗАВСЕГДАТАЙ
Сообщений: 878
Замечания : 0%
Цитата yanesik ( ) Идеология определяет все: систему ценностей, мораль, отношения.
нет идеологии в учебниках по физике, нет идеологии в учебниках по химии, по астрономии... там нет никакой идеологии. Космология, космогония, биология, геофизика, геология - нет там идеологии. В науке нет идеологичности - что отличает любую её грань от лженауки теологии. Машины - как люди, будут подчиняться законам науки, а не лженауки.Сможем быть лучше машин - выживем. Не сможем - туда нам и дорога.
прошу прощение за эмоции.
|
Группа: МАГИСТР
Сообщений: 377
Замечания : 0%
Цитата А не то ли это произведение, где челство как бы заранее приближение к СС
Не уверен, "история..." про лингвистку, которая изучает язык инопланетян, вошедших с нами в контакт. 4 премии по малой форме и еще 3 номинации. У этого чувака вообще премий больше, чем написанных текстов, и это слегка заранее напрягает на предвзятость.
|
Группа: ЗАВСЕГДАТАЙ
Сообщений: 484
Замечания : 0%
Зачем нужен ИИ? Это шаг назад. Попытка человечества снять с себя ответственность. Делигировать часть своих проблем ИИ, чтобы не решать их самостоятельно, апелируя тем что он будет непредвзятый. А не попахивает ли это созданием нового идола, что может привести к поклонению ему. Найти того, кто будет отвечать на все вопросы? Но это тут же приведет к тормозу науки и филосовской мысли. Мы постипенно начнем скатываться к первобытному строю... Создадим себе бога...
|
|
|
