Отправлено: 30.03.06 02:27. Заголовок: МАТМОДЕЛИ и ПРОГРАММИРОВАНИЕ

Обсуждение математических моделей связвнных с генетикой и физикой, алгоритмов, реализаций и других программерских вопросов.

 Отправлено: 10.04.06 04:05. Заголовок: Re:

nizsan
Если есть КРАТКОЕ я бы сказал КРАТЧАЙШЕЕ пособие, чтобы я поскоренькому вник в НС, кинь ссылу буду безпредельно благодарен. А вообще мне кажется ГА проще в реализации. Вот.

 Отправлено: 10.04.06 08:23. Заголовок: Re:

nizsan

Так я хотел бы ещё раз уточнить, решили все таки делать на чистой НС или все же НС будет использоваться просто в качестве языка для ГА.

 Отправлено: 10.04.06 08:24. Заголовок: Re:

KaKTooTh

Кстати не стоит даже сравнивать НС и ГА вообще у них даже задачи разные.

 Отправлено: 10.04.06 09:08. Заголовок: Re:

assmer
Ну, если говорить о мозгах для "населения" в постановках игрищ, то можно :) не судите строго.

 Отправлено: 10.04.06 09:27. Заголовок: Re:

KaKTooTh пишет:

цитата:

1) Действительно, википедия дала своеобразный пинок. Если есть варианты лучше, готов рассмотреть. По части анализа "встречаемости" кода никто не думал?

Мне также имхается что brainfuck подмножество не самый удобный язык для мутаций. Т.к. "легкое" изменение кода может вывести из строя всю последующую программу.
Как минимум необходима возможность абсолютной адресации. ИМХО.

KaKTooTh пишет:

цитата:

С целостностью или кусочностью ДНК так же думал. Сейчас просто весь код выстраивается в одну ыепочку и подается на "процессор". Генечтисекое смешивание, скрещивание, мутации планировал (еще недоделал) делать не глядя на разрывы в коде. Поэтому собственно и обратился к общественному мозгу :) :) :) може кто чего и подскажет.

Как насчет реализации механизма функций (процедур/методов... кому как удобнее называть)? Тогда мутации/наследственность можно будет реализовать на уровне функций.

KaKTooTh пишет:

цитата:

- Есть Интерфейсное окно, через которое пользователь заглядывает в "мир" - Есть "мир" со своей физикой и "сущностями" - Есть "сущности", будь то амебы, гусеницы или пауки (изначально я хотел паучков) и они могут "играть" - "Игра" цель существования "сущностей" которые всю жизнь проводят в "соревнованиях" - "Соревнование" объективная оценка "успешности" или "приспособшенности" сущности - "приспособленность" обеспечивается "мозгом" (значально генетически модефицируемый алг. но можно и нейросети) То есть, как вы могли заметить четыре независимых блока: 1 - Интерфейс 2 - Мир и физика 3 - сущьности (они по большому счету принадлежать миру) 4 - МОЗГ

Грамотно. Этот шаблон называется MVC. Model-View-Controller.
Model - Сущности (с мозгом)
View - Интерфейс
Controller - мир, физика, мозг (точнее обработка мозга)
подробнее можешь почитать здесь. Врочем, если уже делаешь так - значит уже в курсе. Если дошел сам на интуиции - РЕСПЕКТ!

 Отправлено: 10.04.06 09:55. Заголовок: Re:

ai91 пишет:

цитата:

Мне также имхается что brainfuck подмножество не самый удобный язык для мутаций. Т.к. "легкое" изменение кода может вывести из строя всю последующую программу

Согласен это проблема отсутствия метрики пространства команд. Для хорошего алгоритма ГА желательно её наличие. Метрика например есть у языка НС. Там малое изменение веса приводит к малому изменению программы. Но что то не припомню больше ни каких других языков с подобным свойством. И вроде бы автор говорил что он использует тоже обычный "мнемонический" язык а не числовой и у него это получилось значит это все таки возможно. Правда быстрый процесс эволюции очень удивляет (у меня было что за 8 покалений АМ начали проявлять уже разумное поведение), видимо автор очень точно подобрал язык и использовал не АСМ для амеб, а какой ни будь "C", где одна команда выполняет уже какие-то сложные задачи специально заточеные под АМ . Другово объяснения такой скоростной эвалюции у меня пока нет. KaKTooTh - может и тебе стоит использовать что ни будь подобное, правда я пока с трудом представляю какие могут понадобится комманды твоим гусеницам.

 Отправлено: 10.04.06 10:23. Заголовок: Re:

KaKTooTh

Есть следующие мысли:

Имеется набор генов. Каждый поочередно или по какомуто другому алгоритму (например тоже по ГА) или вообще случайным образом вызывается (так на одном шаге делается для каждого гена). В итоге его работы мы получаем не только управляющие силы, но и ещё одно число - значение активности. Тепреь два варианта:
- Если это число превышает некоторый порог значит ген будет активизирован и к значениям выходных сил будут добавлены силы полученные этим геном.
- Выбирается ген с масимальной активностью и он полностью определяет поведение гусеницы на этом шаге.
В итоге в процессе эвалюции плхие гены либо перестанут активиироватся (недостаток - будут висеть мертвым грузом) либо исправятся и станут хорошими. Чтобы избежать выше сказаного недостатка предлогатся ввести случайную возможность появления или исчезновения генов в результате мутаций. Тогда плохие не активизирующиеся гены при исчезновение не повлияют на работу гусеницы, а появление новых генов позволит обучаться все новым и новым приемам тактикам и.т.д.
ПС:
Вообще было бы не плохо добавить ещё возможность одному гену активизировать друой ген и передать ему какие то данные, тогда они могли бы выполнять роль подчиненых процедур, расширяющих возможности гена.

 Отправлено: 10.04.06 14:10. Заголовок: Re:

KaKTooTh пишет:

цитата:

nizsan Если есть КРАТКОЕ я бы сказал КРАТЧАЙШЕЕ пособие, чтобы я поскоренькому вник в НС, кинь ссылу буду безпредельно благодарен. А вообще мне кажется ГА проще в реализации. Вот.

посмотри это http://amebas.ucoz.ru/neyroseti.zip
если будет сложно попробуй в два захода

 Отправлено: 10.04.06 14:26. Заголовок: Re:

assmer пишет:

цитата:

Имеется набор генов. Каждый поочередно или по какомуто другому алгоритму (например тоже по ГА) или вообще случайным образом вызывается (так на одном шаге делается для каждого гена). В итоге его работы мы получаем не только управляющие силы, но и ещё одно число - значение активности. Тепреь два варианта: - Если это число превышает некоторый порог значит ген будет активизирован и к значениям выходных сил будут добавлены силы полученные этим геном. - Выбирается ген с масимальной активностью и он полностью определяет поведение гусеницы на этом шаге.

в приципе можно и так, направление правильное

но здесь архитектура больше прхожа на НС чем ГА
Давайте примем что 1 хромосома зто 1 нейрон тогда строим сеть Кохонена с нейронами чемпионами
либо Хопфилда с обратной связью настроеной на активность и полезность нейрона (хромосомы)
сети хопфилда имеют ассоциативную память, что в нашем случае лучше

 Отправлено: 10.04.06 16:43. Заголовок: Re:

nizsan пишет:

цитата:

но здесь архитектура больше прхожа на НС чем ГА

Ты не совсем правильно понимаешь ГА. ГА определяется не принципом постороения программы, а самой сутью, методикой обучения. То же касается и НС она представляет собой не просто набор матриц и нелинейных элементов, НС это в первую очередь методика обучения, поэтому иногда внешне похожие НС могут носить разное название и обладать разными свойствами. Так что названия: сеть Кохонена или какие либо другие - здесь не подайдут, так как мы не будем использовать их методы обучения. Было бы конечно прикольно придумать как использовать их методы применимо к нашей задаче, но я пока не знаю как. Поэтому и предлогается более простой алгоритм обучения - ГА. nizsan предложи как адаптировать чистую нейросеть (любого типа) к этой задаче, только более подробно опиши процесс обучения, точнее самообучения.

ПС: архив по моему бракованый.

 Отправлено: 10.04.06 18:27. Заголовок: Re:

assmer пишет:

цитата:

nizsan предложи как адаптировать чистую нейросеть (любого типа) к этой задаче, только более подробно опиши процесс обучения, точнее самообучения.

я над этим бъюсь уже второй месяц
так как вселенная амеб и стандартная задача классификации для НС
имеют много общего ,но имеют много нюансов которые я пока не могу решить
Я видел по спутнику у американцев конкурс
на джипы ставят автопилот и они сами валят 2мили помоему по извилистому бездорожью с препятствиями за 2 часа помоему.
приз от NASA за первое место -1 000 000 млн$
разрешено использовать компьютер, GPS, камеры, карту месности.
Короче до финиша доехал только один из 15 , но не уложился во время)))))

 Отправлено: 11.04.06 00:54. Заголовок: Re:

вот интересные ссылочки
http://www.transhumanism-russia.ru/content/view/16/19/
http://www.neuroproject.ru/articles_dak_nn.php
http://www.computer-museum.ru/histsoft/alife.htm

 Отправлено: 11.04.06 04:05. Заголовок: Re:

ai91
ai91 пишет:

цитата:

дошел сам на интуиции

Как бы так сказать... спасибо что дал ссылу.
ai91 пишет:

цитата:

Мне также имхается что brainfuck подмножество не самый удобный язык для мутаций

Согласен, но более простого ген.материала не смог придумать. Да и к тому же немалая избыточность ген.материала (мусор) может компенсировать отсутсвие метрики. Можно конечно многоуровневые (по уровню на хромосому) функциональные куски реализовать(одна хромосома отвечает за присоски, другая за тактику, третья за еще чего-нить).
ai91 пишет:

цитата:

необходима возможность абсолютной адресации

А если подумать капельку, то этот АСМ ее обеспечивает.
assmer пишет:

цитата:

язык и использовал не АСМ для амеб, а какой ни будь "C"

Тут не согласен. Таким образом сущности загонятся в строгие рамки поведения - отпадает. Чем язык ближе к фундаменту тем лучше (помните последнюю команду АСМа из моего списка? это я покривил душой, ее надо убить).
Где то выше assmer говорил, что Гусеницам не хватает памяти для накопления данных, а как же "аккумулятор"? 1 кб собственной сохраняющейся памяти а можно и больше по сравнению в кодом-ДНК это не много. Это изобретение может дать возможность сущностям накапливать опыт. Адаптироваться. Строить целые алгоритмы. То есть, после битвы, в целом животина уже не та, что была до битвы. Модифицированная.

По части НС пока ничего не могу сказать читаю "кратенький" экскурс.

 Отправлено: 11.04.06 08:38. Заголовок: Re:

KaKTooTh пишет:

цитата:

Тут не согласен. Таким образом сущности загонятся в строгие рамки поведения - отпадает. Чем язык ближе к фундаменту тем лучше

Я тоже так считаю, но как объяснить разумное поведение на 8 покалении тогда не знаю.

цитата:

Можно конечно многоуровневые (по уровню на хромосому) функциональные куски реализовать(одна хромосома отвечает за присоски, другая за тактику, третья за еще чего-нить).

Вот этого делать не стоит, пускай это делают сами гусеницы. В соответствии с той идеей которую я выложил выше, гены будут сами активироватся если будут распознавать определенную ситуацию таким образом в процессе эвалюции произайдет так называемое распределение труда.

цитата:

помните последнюю команду АСМа из моего списка? это я покривил душой, ее надо убить

Не стоит она придает универсальности. Слишком усложнив задачу процесс эвалюции будет идти очень долго. Причем предпологаю что усложнение задачи в 2 раза (условно конечно) может привести к увеличениию времени эвалюции во много раз, может в 4, а может и в 10 ...
Так что тут надо разумно выбрать между универсальностью и временем эвалюции.

цитата:

Гусеница будет сохранять модифицированный массив V в своем коде

Не стоит так делать подобный прием будет плохо сочетаться с ГА это будет лишь сбивать гусениц. А вот для одного боя это просто необходимо (то есть сохранение в "оперативной" памяти).

ПС: расскажи, когда решишь на какой концепции все же решил остановится

 Отправлено: 11.04.06 09:49. Заголовок: Re:

assmer пишет:

цитата:

подобный прием будет плохо сочетаться с ГА это будет лишь сбивать гусениц

Тоже так думал, но потом подумал еще и решил V детям давать от случайного из двух родителей. Но пока... (читать ниже)
assmer пишет:

цитата:

на какой концепции все же решил остановится

В прострации от массива инфы всколупнутой из инета. Думаю.

Вообще идея следующая: сегодня/завтра сообща продумываем "интерфейс" взаимодействия мозг-объект-мир (МОМ) а потом желающие реализуют свой "мозг" вставляем его в "конструктор", смотрим кто круче. Подобный подход как раз поможет выбрать оптимальный вариант для поставленной задачи.

Далее читаем тут: ftp://ftp.dvo.ru/pub/Personal/Melman/constr.rar

 Отправлено: 11.04.06 10:12. Заголовок: Re:

KaKTooTh

Скачать что то пока не получилось, может у меня интернет глючит попробую позже.
Кстати где то давно читал, что размножение гораздо эффективней при спаривание не двух а трех или даже более пар.

 Отправлено: 11.04.06 11:29. Заголовок: Re:

assmer
Поправил, простите великодушно.
ftp://ftp.dvo.ru/pub/Personal/Melman/constr.rar

 Отправлено: 11.04.06 12:11. Заголовок: Re:

KaKTooTh
Ну думаю физическая модель нарицаний не вызывает (если она работает достаточно быстро) Внешний вид это вообще дело десятое, а вот банк ДНК стоит детально обдумать.
Есть набор хромосом. Каждый хромосом состоит из некоторого набора генов причем думаю их число фиксировать не стоит (должна быть вероятность при мутации появления или исчезновения гена) каждый ген должен представлять собой некоторую программу (набор байтов). Думаю остальные признаки будут лишними (хотелось бы что бы каждый признак: цвет пол и.т.д определялись с помощю генов , как я ещё подумаю). Разделение на хромосомы необходимо для скрещиваний при которых новая особь будет формироваться за счет случайного смешивания хромосом. Взаимодействие между генами я уже описывал ранее но приведу еще :
Имеется набор генов . Каждый поочередно или по какомуто другому алгоритму (например тоже по ГА) или вообще случайным образом вызывается (так на одном шаге делается для каждого гена). В итоге его работы мы получаем не только управляющие силы, но и ещё одно число - значение активности. Тепреь два варианта (нужно выбрать какой ни будь из них):
- Если это число превышает некоторый порог значит ген будет активизирован и к значениям выходных сил будут добавлены силы полученные этим геном.
- Выбирается ген с масимальной активностью и он полностью определяет поведение гусеницы на этом шаге.
В итоге в процессе эвалюции плхие гены либо перестанут активиироватся (недостаток - будут висеть мертвым грузом) либо исправятся и станут хорошими. Чтобы избежать выше сказаного недостатка предлогатся ввести случайную возможность появления или исчезновения генов в результате мутаций. Тогда плохие не активизирующиеся гены при исчезновение не повлияют на работу гусеницы, а появление новых генов позволит обучаться все новым и новым приемам тактикам и.т.д. Вообще было бы не плохо добавить ещё возможность одному гену активизировать друой ген (из того же хромосома) и передать ему какие то данные для вычислений и взять результаты, тогда они могли бы выполнять роль подчиненых процедур, расширяющих возможности одного гена.
Реализацию языка ты уже сделал, как я понимаю и менять его пока нет смысла, может и он сработает.
ПС: Все это лишь мое мнение а не факт.

 Отправлено: 11.04.06 12:24. Заголовок: Re:

KaKTooTh
Кстати, вопрос не много не в тему ты случайно не знаешь хороший форум по физике где можно было бы пообсуждать разные интерестные вопросы, а том мне все какие то любительские попадаются где спорят какой из законов Ньютона лучше.

 Отправлено: 12.04.06 05:23. Заголовок: Re:

assmer
Позике как по предмету или физике в программировании... хотя... ни то ни другое не могу подсказать :(

 Отправлено: 12.04.06 05:34. Заголовок: Re:

assmer
А теперь по поводу ГЕНов.
Идея сделать каждый ген независимой функцией, которая с некоторой вероятностью может повлиять на поведение Гусеницы была. Но есть один факт который не выходит из головы. Для начала поделюсь своей структурой.
ДНК - 24 хромосомы
Хромосома - X генов строго по Y байтов
То есть я хочу сказать, что я фиксировал размер одного ГЕНа. И этого размера может, как бы это по мягче, не хватить на полноправную функцию. Может это не правильно. Думаем дальше.
Вызов ГЕНов для отработки можно сделать лекко. Но покажи пожалуйста великую необходимость в этом. Я пока не вижу. Дело в том, что если сделать выстраивание ГЕНов из хромосом в одну цепочку кода то вот и последовательное выполнение. Можно только добавить возможность безусловного перехода на следующий/предыдущий ГЕН/ХРОМОСОМУ. Но эти коды из АСМа я выкинул (именно выкинул), так как посчитал это лишним.
Если можно приведи примеры полезности предлагаемой тобой структуры. Просто я никак въехать не могу, а уж очень хочется.

 Отправлено: 12.04.06 08:53. Заголовок: Re:

KaKTooTh

Перед тем как ответить на твой вопрос, я хотел бы уточнить ты сказал:"Дело в том, что если сделать выстраивание ГЕНов из хромосом в одну цепочку кода то вот и последовательное выполнение". То есть гены будут выполнятся последовательно передавая результаты предыдущего гена на вход следующего это ты имел в виду или что то другое.

 Отправлено: 13.04.06 00:49. Заголовок: Re:

можно сделать чтобы каждая хромосома отвечала за свою определенную функцию и имела свой определенный набор команд например : узел(движение),цвет ,стрельбу,Анализ обстановки, выбор тактики.
это будет более поже на природное строение днк
тогда можно будет вызывать хромосомы в определенном порядке.

 Отправлено: 13.04.06 05:06. Заголовок: Re:

assmer
nizsan
Вы оба правы.

assmer пишет:

цитата:

То есть гены будут выполнятся последовательно передавая результаты предыдущего гена на вход следующего

Именно. Но конкретного перевадвания то не надо, ведь один выполнился за ним следующий и так далее. Их результаты естественным образом суммируются.

nizsan пишет:

цитата:

каждая хромосома отвечала за свою определенную функцию

А этот вариант как альтернатива.

Ребята, прошу недельку на чтение лекций по ГАНС, литературы, и другого материала с усвоением. А то я пока ничего вразумительного не могу сказать. То, как я хотел сделать вначале - это заранее не самый лучший вариант. Так что нужна подковка в теории для продолжения прений.

 Отправлено: 13.04.06 05:08. Заголовок: Re:

и последний вопрос перед затишьем: размер одного ГЕНа оставить фиксированной длинны?

 Отправлено: 13.04.06 08:32. Заголовок: Re:

KaKTooTh

Думаю размер гена да, а вот их количество нет, это позволит принципеально сделать программу любой сложности.

цитата:

естественным образом суммируются

только все же предлогаю суммировать результаты генов чья активизация превысила некоторый порог. А для того что бы позволить себе зафиксировать размер гена без потерии функциональности и предлогается возможность одному гену вызывать другой как подпрограмму, которая сама по себе не будет носить самостоятельный характер и активизироваться при последовательном переборе всех генов.

 Отправлено: 13.04.06 08:55. Заголовок: Re:

======================
одному гену вызывать другой как подпрограмму
======================

а зацикливание не произойдет с итогом stack overflow?

 Отправлено: 13.04.06 09:02. Заголовок: Re:

SolitaryPilgrim

Может и произойти но для того что бы этого избежать на просчет одного хода должно выделятся определенное число тактов, ну и возможно еще какие ни будь меры стоит предпринять.

 Отправлено: 25.04.06 03:19. Заголовок: Re:

Уважаемые assmer и nizsan
Постоял в сторонке покурил доки, вот что по этому поводу придумалось. ( К стати доки еще не дочитал, хочу полистать еще один докторский диссер и побольше полазить по ИЖ проектам, посмотреть, подумать, а вообще мне понравилось разнообразие, но АМ круче!!!)

И так, конкретных предложений одно, но оно еще недоросло и поделюсь чуть позже, расскажу краткую инфу что понял, очень краткую.

Есть задачи решения которых можно просто представить в виде функционала отображения одного пространства "параметров"(для простоты буду говорить о векторе численных значений) в другое пространство решения, это так же может быть вектором действительных значений. Методы решения придумывались начиная с тех пор как появились первые задачи. Вы из наверняка знаете: комивояжера, задачи предсказания, аппроксимации и тд. Наиболее простые и "точные" методы: градиентный спуск, симплекс, наименьшие квадраты и т.д. Но они зачастую не подходят.

Были придуманы методы ГА. Это тот же метод подбора параметров. Для его применения задача должна быть формализована и имелась модель решения. То есть ГА - Есть модель решения задачи, есть огромна туча парметров, которые не подобрать вручную или перебором. Применяется метод подбора параметров по принцыпу генетического наследования. Ключевым словом являеся Есть модель. В терминах дерущихся "организмов" (Амебы) формализация в том, что существует некий язык программирования и существует некая идеальная программа, позволяющая всегда побеждать. Язык - формализация. Программа - туча параметров. ГА - подбирает параметры.

Кроме четко формализованных задач были и задачи без формализации (распознавание речи, образов и тд) для них придумали противоположно иной метод решения. Грубо говоря - функциональный - НЕЙРОСЕТЕВОЙ. Разнообразные теоремы доказывают, что нейросетка это просто такой мега функционал который переводит вектор входных параметров в вектор выходных. Этот функционал наделили свойствами (имперически) и доказали его пригодность (теоритически). Обучением нейросети называют настройку весов нейронов... (продолжение следует)

 Отправлено: 25.04.06 03:39. Заголовок: Re:

(продолжение, начало см. выше)
Придумали множество конфигураций сети и соотвественно множество способов их настройки.
Сети бывают одно проходные - то есть, на вход подали сигнал, прогнали по всем аксонам, нейронам, синапсам один раз и на выходе сняли показания. Есть сети с обратными связями и с многократным возбуждением, тогда в нейронах накапливается за несколько проходов сигнал их входа из внутренностей сети.
Это можно сравнить с учеником которого спрашивают: "сколько 2*2?" а он незадумываясь: "4". Или его спрашивают: "234 * 46 / 15" а он незадумываясь: "4" ему: "а если подумать?", ученик делает несколько итераций в мозгу и говорит: "1234". Неправильно, но все равно решение уже другое. То есть сети имеют память о прошлых итерациях и, как бы "умеют думать".

Некоторые умные мужики заметили, что к задачам, решаемым НС можно применить формализацию: нейросеть - есть решение, ее настройка - есть туча параметров. И разработали:
НЭ - нейроэволюционный подход (мне больше вкатило ГАНС - ген.алг для н.сетей). То есть они сказали что мы будем методом ГА подбирать веса НС. А потом еще немного подумали и сказали: " а какого фига!!" и придумали методами ГА менять и топологию НС. И появились сети без строгой структуры. Тут уже и речи быть не может о сетях Кохенена, перцептронах их многослойных собратьев и т.д.. Так же собственно речи не идет и о любимом методе обратного распространения ошибки для настройки НС. Здесь люди забились в такую абстракцию, что кричи "караул". То есть для решения сложных задач человек дал волю "черному ящику". Это такая штука, которая может перерабатывать входную инфу и давать ответы, НО человек ВАЩЕ не имеет представления как это происходит. Попа. Но что поделать.

(продолжение следует)