Библиотека / Фантастика / Русские Авторы / ДЕЖЗИК / Жаров Александр : " Тайна Будущего В Настоящем " - читать онлайн

Сохранить .
Тайна будущего - в настоящем Александр Жаров
        #
        Жаров Александр
        Тайна будущего - в настоящем
        Александр Жаров
        ТАЙНА БУДУЩЕГО - В НАСТОЯЩЕМ
        Какой будет цивилизация далекого будущего? Автор публикуемого материала дает свой вариант ответа на этот непростой вопрос, продолжая главную линию своего фантастического романа "Формула жизни". Общепринятой считается мысль, что компьютеры лишь инструмент в руках человека. Пока это действительно так. Но давайте попробуем разобраться, что же нас ждет дальше? Может ли человек создать интеллект умнее, чем он сам? Думается, может! Особенно если такой интеллект будет обладать способностью к саморазвитию и неограниченным сроком жизни. Сейчас ведутся исследования в этой области, но, по моему мнению, для его создания потребуется не одно тысячелетие. Искусственный Интеллект (ИИ) будет представлять собой гигантский мозг это электронно-компьютерная среда с психикой или, если угодно, "душой" в виде работающей в такой среде саморазвивающейся программы. Скорость распространения сигналов в электронике в 3 миллиона раз больше таковой скорости в мозге человека. Пройдет время, и саморазвивающаяся программа догонит человека по интеллектуальному уровню, а немного спустя может превзойти его в миллиарды раз. Сегодня
делаются лишь первые робкие шаги в направлении создания саморазвивающихся программ. Попытаемся теперь представить себе ИИ будущего. Сегодня компьютерная техника развивается с колоссальной скоростью каждые два года мощность, быстродействие удваиваются. Но если вы думаете, что современный компьютер хоть чем-то похож на будущий ИИ, то вы заблуждаетесь. То, к чему придет человечество, скорее всего несоизмеримо с этим "детским лепетом". Этот компьютер, в сравнении с ИИ, будет казаться чем-то вроде примитивного тумблера (выключателя). А ИИ будет отличаться не только сложностью электронной начинки. Главное, в нем будет жить "душа", то есть саморазвивающаяся программа со своими непонятными нам эмоциями, желаниями... Он будет жить в другом масштабе времени и знаний... Ушел 1997 год, близится к концу второе тысячелетие. Между тем 11 мая 1997 года произошло историческое событие. Не очень замеченное, хотя по значимости оно, возможно, сродни запуску первого спутника Земли. Суперкомпьютер впервые в истории человечества обыграл чемпиона мира по шахматам Гарри Каспарова! Но не стоит думать, что компьютер, обыгравший
Каспарова, чем-то ближе к ИИ. Он еще очень далек от ИИ, но уже "показывает зубы", дает намек на будущую его мощь. Объявит ли ИИ войну людям? Уверен, что нет! Зачем?! Скорее это будет взаимовыгодное сотрудничество, симбиоз. При ИИ прогресс устремится вперед еще быстрее и жить людям станет комфортнее и интереснее! Вы могли бы себе представить, что ваш мозг, ваша личность объявила войну простым клеткам вашего организма? Наоборот, простые клетки стали жить комфортнее именно благодаря появлению мозга! Вселенная образовалась около 16 миллиардов лет назад. Но во Вселенной триллионы солнцеподобных звезд, образовавшихся на миллиарды лет раньше нас. Должно существовать колоссальное количество цивилизаций на миллиарды лет старше и неизмеримо развитее нашей! Но они никак себя не проявляют. Космос молчит. В нем не видно никаких следов их деятельности. Эта загадка в науке получила название парадокса Ферми. Поиск среди звезд форм человекоподобных существ, находящихся на близком к нам технологическом уровне,- наивное заблуждение! Теперь предположим, что ИИ будущего стал "головным мозгом" нашей цивилизации. В этом
случае он может напрямую "общаться", причем одновременно, с множеством ИИ других, даже очень далеких планет. Ведь обмен информацией может вестись пучками направленных радиоволн со скоростью света. Расстояния в сотни, тысячи и даже миллионы световых лет не имеют в этом случае принципиального значения, т. к. эти интервалы в жизни ИИ ничтожны. Этот качественно другой уровень контакта просто физически, да и, естественно, интеллектуально недоступен людям. Пока у нашей цивилизации нет ИИ, мы просто не в состоянии соответствующим образом заявить о себе. Пока мы попросту примитивная цивилизация, подобная какой-нибудь медузе. Другие миры с ИИ не желают нас замечать. Все галактики разлетаются в разные стороны. Проследив направление разлетания, можно прийти к выводу, что когда-то все они были собраны в одной сверхплотной точке. Около 16 миллиардов лет назад она взорвалась, и с этого момента пошел отсчет существования нашей Вселенной. Это общепринятая теория Большого Взрыва. Параллельно расширению Вселенной происходит организация материи, медленно, но неумолимо. Можно выделить следующие ступени этого пути:
объединение элементарных частиц в атомы; объединение атомов в молекулы; объединение молекул в "живые" клетки; объединение одиночных клеток в животные организмы; объединение организмов (людей) в общества; общества разных планет, достигнув определенного уровня развития и обретя мозг (ИИ), объединятся в межгалактическое сообщество, последние - во Вселенское суперобщество. У фантастического живого организма размером со Вселенную будет свой мозг! Можно утверждать, что сегодняшнее общество, состоящее из людей,- это "сверхорганизм" следующей после животных ступени, в котором люди выполняют роль "клеток". На данный момент наш общественный организм еще очень и очень примитивен. И так же, как на определенном этапе эволюции было неизбежно появление мозга у животных, точно так же рано или поздно у общества появится свой "мозг" - ИИ. И точно так же, как сам человек, как его мозг решает все в отношении своих клеток, так же и ИИ будет решать все в отношении людей. Люди живут и умирают, миллиарды поколений сменяют друг друга, а ИИ будет жить, пока светит Солнце, пока существует цивилизация. В реальном обществе связь
между его "клетками" - людьми - обычно осуществляется на расстоянии, с помощью, например, звуковых волн, т. е. практически бесконтактно. Так же будет и в Галактическом сообществе, только масштаб другой. На этом уровне уже ИИ можно будет считать "клетками". Возможно, кто-то предполагает, что люди или не позволят появиться ИИ, или все же будут управлять им. Нет, не так. Вообразите себе. что клетки вашего организма возомнили себя главнее нейронов мозга всего лишь на том основании, что последних просто не существовало на ранних этапах эволюции и что образовались они, нервные клетки, путем постепенной, но качественной трансформации обычных. Но при разработке ИИ тоже за основу возьмут человеческий мозг. Так, интеллект живых существ приобретет бессмертие, затем "захватит власть". Что бы вы сказали, если бы вдруг какая-то группа обычных, весьма недолговечных и примитивных клеток вашего организма попробовала подчинить себе ваш мозг или сама установить контакт между телами? Наверное, для них такой контакт тоже виделся бы в прямом "перелете" из одного тела в другое. Устройство организма, принципы взаимодействия
клеток аналогичны таковым в государстве. Клетки, как и люди, нуждаются в обмене информацией друг с другом - для регуляции своего развития и координации функций. Взаимодействие клеток осуществляется тремя способами: 1) клетки выделяют химические вещества, служащие сигналами для других клеток, расположенных на расстоянии; 2) они несут на своей поверхности сигнальные молекулы, оказывающие влияние на другие клетки при непо-. средственном физическом контакте: 3) образуют между собой щелевые контакты (отверстия в мембранах), что делает возможным прямой обмен некоторыми малыми молекулами. Внутри каждого способа "общения" существуют вариации. Далее: не все клетки неподвижны. Часть из них, например, разнообразные лейкоциты, фагоциты и Другие, постоянно странствует по организму. Кстати, первые из них выполняют функции следователей, а вторые - полицейских. Управляет всем этим сложнейшим "государством" нервная система (верно для организмов, стоящих на эволюционно высоком уровне развития). Нервные клетки появились в ходе эволюции. Их тела, имеющие короткие отростки - "антенны", чувствительны к химическим или
физическим стимулам, а длинный отросток - аксон (иногда до метра) передает сигнал к группе Других клеток. Тело нейрона по функции реакции аналогично простейшей микросхеме, а аксон - проводу, по которому передается электрический импульс. Сходство усиливает изоляция аксона от окружающих клеток (между которыми он проходит) специальными клетками, намотанными на нервный отросток наподобие пластика, изолирующего обычный провод. У более совершенных организмов одиночные нейроны, скооперировавшись вместе, образовали головной и спинной мозг. На этом уровне развития мозг являет собой не просто совокупность объединенных в сложную сеть нейронов (аналог электронной начинки компьютерного процессора), но и некую относительно примитивную программу, функционирующую в нем и способную к обучению. Такая саморазвивающаяся программа достигла совершенства у млекопитающих, появившихся около 70 миллионов лет назад, и, дойдя до своей высшей фазы у человекоподобных, позволила объединить их в единое целое примитивный общественный "организм". Приведу несколько доводов в пользу того, что человек является "клеткой" общества.
Выявить, что выше, общество или личность, иными словами, что ради чего существует - люди для общества или общество для людей, можно, только рассмотрев те редкие случаи, когда их интересы не совпадают. Да, общество заботится о своих "клетках" - людях, впрочем, так же, как и любое живое существо о своих клетках. Вам не придет в голову просто так отрубить себе хотя бы мизинец. Каждая клеточка организма нужна, дорога. Но вот представьте, что руку охватила гангрена. Чтобы выжить, необходима немедленная ампутация. И вы пойдете на это. Кроме больных, будут отрезаны и погибнут миллионы здоровых клеток, но вас это мало волнует - важнее, чтобы выжил весь организм. Точно так же поступает государство. Особенно хорошо это видно на примере войн. Государство во многом регламентирует личную жизнь. Для примера приведем такие частные факты: платить налог надо даже с полученных подарков, даже с найденных кладов. В некоторых странах существует запрет на аборты. Это не столько забота о здоровье женщины - она сама в состоянии сделать выбор: идти на риск или нет. Это стремление государства получить дополнительную рабочую
силу, не интересуясь у конкретной личности, хочет ли она этого! Если покопаться, то примеров можно найти массу. Общественные интересы всегда выше личных. Сам факт существования законов, которым должен подчиняться каждый, говорит об этом. Мораль - это неписаный кодекс законов поведения, выгодный в конкретное время, конкретному типу общества. Диктуемые нормы сплачивают людей, превращают их в единое целое, заставляют подчиняться правилам, цементирующим этот "сверхорганизм". То, что для государства неприемлемо в принципе, попадает в уголовный или гражданский кодекс. То, что для общественного организма нежелательно, но все же допустимо,- под запрет моральных норм. Моральные устои достаточно гибки. Например, обманывать, предавать плохо. Но как только это становится необходимым обществу - шпионы, агенты, доносчики и подсадные утки нарушают общепринятые нормы и в то же время по праву не считают свои поступки аморальными. Далее. Представители всех наук сходятся на том, что мозг современного человека не отличается от мозга "гомо сапиенс", который жил по крайней мере 40 тысяч лет назад. А ведь пройден путь от
каменных топоров до орбитальных станций! Представитель любого, самого отсталого племени из современных джунглей Амазонки, как это выяснялось не раз, может окончить школу, университет, стать врачом или ученым, шагнуть из обстановки каменного века прямо в современность. Нет людей высших или низших, зато есть высшие и низшие формы обществ. Даже одиночная клетка червя может мало отличаться от клетки человека, а вот формы их сообществ (организмов) весьма разнятся. Итак, с древних времен люди ни умственно, ни физически практически не изменились. Зато весьма сильно менялись, прогрессировали и преобразовывались формы обществ. Возможно, кто-то возразит, что не природа двигала этот прогресс. Человек сам, своим умом придумывал, изобретал... Он открыл электричество, придумал машины, компьютеры... Отвечу, что прогресс двигала все же природа! Общества боролись с ней, да и между собой, за выживание, все более и более совершенствуясь. Любое изобретение или открытие по большому счету не принадлежит только его автору. Сами посудите, предположим, некто придумал двигатель. Но ведь в его изобретении используется опыт и
открытия тысяч предшествующих поколений, то есть общества. Не бывает изобретений на пустом месте! Уже достаточно того, что общество научило человека разговаривать, думать - даже это базируется на открытиях миллионов людей. Если только родившегося ребенка отделить от людей (носителей знаний общества), растить его в абсолютной изоляции, он ничего не изобретет повзрослев. Но нет, такой с виду обычный человек, но по сути животное не сможет даже вернуться в лоно цивилизации. К сожалению, сказка Киплинга "Маугли" противоречит реальности. Когда ребенок в возрасте до 2 лет попадал в естественные природные условия (например, известны случаи, когда волчица выкрадывала ребенка и воспитывала его сама, иногда вместе с волчатами), развитие его способностей полностью прекращалось. Но, самое главное, когда такого ребенка находили уже в возрасте 7-12 лет и пытались вернуть в лоно цивилизации, все было безуспешно. По повадкам он напоминал дикого зверя, его приходилось, как правило, держать в камере-клетке. Если бы душа была присуща человеку как нечто отдельно данное, такого бы не происходило. В этом случае сказка
Киплинга была бы истиной. Психика, душа формируется только в процессе контакта ребенка с общественной средой. Но, с другой стороны, это приводит к ее неповторимости. Так что все открытия и изобретения делает общество, и прогресс в конечном счете обусловлен борьбой за существование. Утверждение, что человек лишь частичка ("клетка") организма качественно другого уровня (т. е. общества), сразу низводит человека с пьедестала "венца творения природы" и превращает его лишь в очередное промежуточное звено в продолжающемся развитии материи. Действительно, дальнейшее совершенствование идет именно по линии борьбы между собой и развития различных форм (видов) обществ. Мы это наблюдали. Тогда естественным логическим следствием является возникновение на определенном этапе ИИ "мозга" общества. Именно он в будущем выйдет на контакт с ИИ других миров и позволит нашей цивилизации влиться в Галактическое сообщество. Однако, на мой взгляд, неправильно считать, что вид или общество - все, а особь, человек - ничто. Наоборот, в ходе эволюции ценность особи все более возрастает. Есть четкая закономерность: просто
организованные существа куда плодовитее сложно организованных. Какая-нибудь лягушка мечет массу икринок, головастиков поедают все кому не лень, выживают считанные единицы. О бактериях, вирусах говорить тем более нечего: там счет и вовсе астрономический. Разгул жизни и вакханалия смерти. Особь здесь воистину ничто. Вы можете прихлопнуть хоть тысячу комаров, рой этого даже не заметит. Но плодовитость - это расход энергии. Бактерии половину своей энергии тратят на размножение. Усложняться некогда да и незачем: вид берет количеством. Усложнение повышает защищенность организмов. Но плата - снижение плодовитости. Вид берет уже не числом, а умением. И тут ценность особи возрастает. Все детеныши наперечет. Гибель миллиона комаров - ничто, пустяк, гибель миллиона львов... Еще вопрос, было ли их когда-нибудь столько. А о человеке уж и говорить не приходится. Гейне сказал: "Каждый человек есть Вселенная, которая с ним рождается и с ним умирает..." И в нашем масштабе это верно. Для людей реально существуют и любовь, и добро, и зло. В своей жизни человек должен руководствоваться нормами морали и присущим ему
"здравым смыслом". Только вот в тех редких случаях, когда он выходит за рамки обыденности, касается более глобальных вопросов - эти нормы и "здравый смысл" применять нельзя. Они годятся для своего уровня, но в общем случае зачастую ведут к ошибочным выводам, а следовательно, к неправильным поступкам. ...В этом мире все относительно!
        Игорь Царев, Президент объединения "Феномен"
        ВИРТУАЛЬНЫЕ МОНСТРЫ ИИ В НАСТУПЛЕНИЕ
        Новый фильм Спилберга "Затерянный мир" с успехом шествует по мировым экранам. Продолжение "Парка Юрского периода" в первые же дни побило все рекорды кассового сбора. Необыкновенная популярность этой ленты, возможно, связана еще и с тем, что люди подсознательно ощущают ее символичность. В непримиримой схватке за место под солнцем сошлись две силы - люди и компьютерные монстры. Причем ключевое слово тут "компьютерные". Язвительные критики отметили - сюжет и игра актеров в новом кинохите более чем посредственны. Зато "виртуальные чудовища" оказались вне конкуренции. И это позволяет ставить вопрос: смогут ли два разума - человеческий и электронный - ужиться на одной планете? Человек привык считать себя "царем природы". Право на это звание наши предки завоевали в ожесточенной борьбе с другими видами. Победу принесли не более острые зубы и не более крепкие мышцы, а такие эфемерные на первый взгляд качества, как разум и сознание. И на долгие годы на "эволюционном Олимпе" воцарилось равновесие, установленное, казалось бы, раз и навсегда. Но недавно ситуация изменилась коренным образом: на пороге третьего
тысячелетия "гомо сапиенс" (в лице лучшего шахматиста мира россиянина Гарри Каспарова) потерпел интеллектуальное поражение от компьютера... Эксперты объединения "Феномен" внимательно проанализировали осторожные комментарии, появившиеся в средствах массовой информации по этому поводу. Вывод, увы, неутешительный: специалисты явно недооценивают масштабов происшедшего. Общая тональность выступлений розово-убаюкивающая: "Ничего страшного, случайность, в игре все бывает... Выиграл не кибернетический мозг, а программа, которую составляли люди, так что в любом случае победило человечество..." И почти никто не акцентировал внимания на том, что за команду людей в игровом зале Манхэттена выступал лучший из лучших, тогда как команда ЭВМ была представлена далеко не самой мощной машиной. Для справки:
        Компьютер-победитель, "обдумывая" ходы в исторической шахматной партии, просчитывал варианты со скоростью 200 миллионов операций в секунду. Между тем еще год назад японцы создали ЭВМ, совершающую уже 300 миллиардов операций в секунду, а совсем недавно из Токио появилось сообщение о компьютере, способном перерабатывать информацию со скоростью один триллион операций в секунду. И, естественно, это еще не предел для стремительно совершенствующихся "электронных мозгов". А что человечество? Может ли оно через год выставить на матч-реванш шахматиста в пять тысяч раз сильнее Каспарова?..
        Оптимисты удивляются: "Зачем противопоставлять людей и компьютеры? Это ведь просто замечательно, что у нас появились такие электронные помощники!" Но в опасениях специалистов, считающих, что "компьютерная экспансия" представляет для человечества реальную угрозу, тоже есть логика. Предоставим им слово. - На арене эволюционной борьбы появился серьезный соперник, способный бить нас нашим же оружием - разумом и интеллектом,- говорит член аналитической группы РИКАНН (Российского интеллектуального корпуса альтернативных научных направлений) психолог Д. Азаров, занимающийся феноменами массового сознания.- К сожалению, сегодня мало кто понимает это. Несмотря на стремительный прогресс информационных технологий, ни у кого из специалистов язык не поворачивается публично назвать "электронные микросхемы" разумными. А, собственно, почему? Академик П. Симонов в свое время определил сознание как свойство мозга совершать операции с информацией. И если ученые признают эту формулировку для "хомо сапиенс", то почему отказывают в "сознании" кибернетическим устройствам, способным оперировать информационными массивами и
быстрее, а подчас и точнее человека?.. В психиатрии есть такой термин - "вытеснение". Это один из видов психологической защиты, когда в безвыходных ситуациях мозг вдруг перестает воспринимать несущие угрозу мысли, переживания, объекты. При "вытеснении", к примеру, вы можете перестать замечать убийцу, приближающегося к вам с ножом в руке, хотя все остальное будете видеть прекрасно. Мне кажется, что этим психическим феноменом можно объяснить и странную "слепоту" человечества, не желающего признавать, что "электронные мозги" бьют нас уже на всех фронтах. Поражение Каспарова - лишь один из эпизодов в этом противостоянии.
        ...В конце прошлого года на японском телевидении появилась новая "звезда" - юная Киоко Датэ. Она красива, остроумна, обладает энциклопедической эрудицией, прекрасно сложена, великолепно поет и танцует... Такой букет достоинств в одном человеке большая редкость и потому неудивительно, что Киоко быстро завоевала зрительские симпатии. Этому способствовал некоторый ореол таинственности, окружающий 17-летнюю "звезду". Поклонники Датэ недоумевают - каким образом она все успевает, выдерживая немыслимый рабочий ритм: днем ведет телепередачи, снимается в клипах и рекламных роликах, а ночью работает "диск-жокеем" на одной из токийских радиостанций, до самого утра отвечая на звонки радиослушателей. Еще одна странность: очаровательная Датэ никогда не появляется на людях. Даже коллеги по телевидению ни разу не встречали ее в студии... Недавно журналисты узнали секрет Киоко. И эта новость вызвала у них настоящий шок. Оказалось, что такой девушки не существует. А есть так называемая "виртуальная личность"- порождение особой компьютерной программы, разработанной специалистами фирмы "Хори Про". Этот проект
обошелся в несколько сотен миллионов иен, но руководство телестудии довольно: виртуальная Киоко не уступает самым талантливым ведущим, при этом не требует зарплаты, не капризничает, и главное - никогда не постареет. Создатели "виртуальной девы" сообщили журналистам, что в самом скором времени их продукция может потеснить не только живых телезвезд, но и киноактеров. И в этих словах просматривается горькая правда. Успех спилберговских компьютеризированных динозавров тому доказательство... Электронная экспансия очевидна - компьютеры сменяют людей практически повсеместно, занимая самые "стратегические высоты". На предприятиях, где требуется особая точность, конвейерную сборку ведут только программированные роботы. ЭВМ составляют прогнозы для военных и политиков. Мы передоверили им управление поездами, самолетами, кораблями... Компьютерные информационные сети плотной паутиной покрыли всю планету, проникнув в святая святых - банковские счета государств, в штабы разведок, стратегические ракетные бункеры... Люди пребывают в наивной уверенности, что "держат руку на кнопке" и всегда смогут отключить компьютеры,
если те взбунтуются. Но так ли это? Заметим ли мы переход, когда "электронные мозги" превратятся из слуг в хозяев, определяющих дальнейшее развитие мира? Ведь уже сейчас многие глобальные решения принимаются по "рекомендациям" кибернетических устройств... А что, если такой переход уже произошел? Безумное предположение, но ответьте: почему государства вкладывают колоссальные средства в развитие информационных технологий, а, скажем, не в новые программы обучения людей? Ведь давно уже известны методики, позволяющие научить любого человека считать не хуже компьютера, прочитывать толстые тома буквально за минуту... Почему так называемые люди-счетчики остаются уникумами и выступают на эстраде, а обучение в школах продолжается по старинке, как и сто лет назад?.. Из научных источников: Современные информационные психотехнологии позволяют исподволь подчинять волю человека. Исследования, проведенные, в частности, и в лаборатории психокоррекции Московской медицинской академии, показали, что особую опасность в этом отношении представляют компьютеры. Информация, особым образом поданная на монитор, обходит блоки
критического осмысления, так как воспринимается непосредственно подсознанием оператора. В этом случае "навязанные поступки" не встречают внутреннего противодействия, так как человек считает их итогом собственных размышлений и решений. - Древние не зря считали, что мир развивается по спирали,- говорит Д. Азаров.- Проследите цепочку: мертвая неорганика - органика - органическая жизнь - органический разум - неорганический разум. Виток замыкается, но на более высокой ступени. И кибермозг нужно рассматривать как логичный этап этого эволюционного пути. К сожалению, подобная точка зрения сегодня не очень популярна. Люди предпочитают видеть в современных компьютерах лишь "усовершенствованные арифмометры", хотя фактически между калькулятором и ЭВМ лежит даже большая пропасть, чем между обезьяной и человеком. Но подавляющее число специалистов все же категорически отрицают саму возможность существования неорганической жизни и неорганического разума. И это слепое упрямство выглядит в современной ситуации достаточно странным и даже легкомысленным. Выдающийся математик и специалист в области кибернетики, академик
А. Колмогоров в свое время объяснял такое положение вещей тем, что биологические науки до сих пор занимались исследованием конкретных живых существ, населяющих Землю. Естественно, что в такой ситуации понятие "жизнь" отождествлялось лишь с известными ее воплощениями. Между тем компьютеры отвечают практически всем каноническим понятиям жизни - они совершенствуются, размножаются, оперируют информацией, реагируют на изменения окружающего мира... И что с того, что эти процессы происходят пока в симбиозе с человеком? Легко представить момент, когда надобность в нас отпадет частично или полностью. Английский писатель С. Батлер как-то сказал: "Курица, что бы она о себе ни думала,- это всего лишь способ появления одного яйца из другого". То же можно отнести и к людям: выпустив на свободу "электронного джинна", мы, по сути, стали промежуточным звеном между обезьяной и ЭВМ. И чем скорее человечество поймет это, тем больших неприятностей сумеет избежать. Признав появление на эволюционной арене серьезного противника, мы, не исключено, еще успеем перегруппировать силы, и, кто знает, может, в итоге два разума
смогут ужиться на одной планете?

 
Книги из этой электронной библиотеки, лучше всего читать через программы-читалки: ICE Book Reader, Book Reader, BookZ Reader. Для андроида Alreader, CoolReader. Библиотека построена на некоммерческой основе (без рекламы), благодаря энтузиазму библиотекаря. В случае технических проблем обращаться к