Thursday, September 28, 2017

XAI - or explainable AI - a new buzz word


XAI or eXplainable AI, that's the new way of DARPA for addressing the problem that intelligence is about understanding, analysis, causality, prediction/planning etc.

https://www.darpa.mil/program/explainable-artificial-intelligence

That reflects or goes along with political tendencies which would limit the usage of CNN/RNN/Deep Learning systems when they can't give "reasonable" explanation of their decisions, for example in an automatic selection process.


That article gives more info about the new laws: 
http://www.kdnuggets.com/2017/08/deep-learning-not-ai-future.html


The political part is silly, though, for example with its advocacy that the lawyers are the ultimate gods of the Unvierse or the "good and evil" examples. :) 

Humans are also susceptible to the same faults of choosing the prevailing opinion of "supervised learning" (authorities) and "reinforcement learning" (rewards and punishments to direct opinions and decisions).



*

ОИИ - ой-ой-и--... Обясним изкуствен интелект - нова дума за това което ИИ би трябвало винаги да бъде, когато се изгражда на етапи и с осъзнаване и език.

Досега - универсален изкуствен разум - УИР, УИИ, AGI, ...

Wednesday, September 27, 2017

Python thread "daemon" property may hang your console

A little discovery, while playing with some of Adrian's tutorials at Pyimagesearch involving a threaded web camera sampling.

It seems that a thread shouldn't be declared as a "daemon", because after the script ends, a zombie  hangs the console where the Python process is executed.

That's the specific example which was debugged:

From : https://github.com/jrosebr1/imutils/blob/master/imutils/video/webcamvideostream.py

from threading import Thread ...

def start(self):
# start the thread to read frames from the video stream
t = Thread(target=self.update, args=())

t.daemon = False #was True

t.start()
return self


The problem may be platform specific for Windows 10 + Python 3.6.1 (my environment), because other users haven't reported such misbehavior.

Wednesday, September 20, 2017

Deep Learning tutorials, demos and study materials - CNN, RNN, OpenCV, Python


Sure, there's plenty of them which pop in the search results, but there you are some materials which I would suggest:

1. How Deep Neural Networks Work

https://www.youtube.com/watch?v=ILsA4nyG7I0


2. How Convolutional Neural Networks work

https://www.youtube.com/watch?v=FmpDIaiMIeA


Etc. from the same author.


Pyimagesearch

Check the latest posts in the Pyimagesearch blog for Computer vision. Using the latest OpenCV 3.3 there are powerful modules which allow to start playing with trained neural networks after a few minutes (in Python):

http://www.pyimagesearch.com/2017/08/21/deep-learning-with-opencv/


http://www.pyimagesearch.com/2017/09/11/object-detection-with-deep-learning-and-opencv/

Object detection with deep learning and OpenCV - PyImageSearch
Learn how to apply object detection using deep learning, Python, and OpenCV with pre-trained Convolutional Neural Networks.


Etc.


JS/webGL library suggested in Google's Research blog

I'm not a proponent of JS as a working environment, but using webGL this project is very convenient for an introduction.

https://pair-code.github.io/deeplearnjs/

It allows you to peek into the layers and see what the data looks like.




Saturday, July 15, 2017

NLTK's Swadesh List in the Bulgarian-Macedonian part

While browsing the Swadesh list from the NLTK corpus, especially the Bulgarian and Macedonian*  columns.

The Swadesh list is a corpus from comparative/historical/developmental linguistics, which is trying to map how languages evolved by tracking the most stable subset of words. It's also suggestive in the field of language acquisition/child language/developmental psychology/evolutionary psychology, because one can imagine which words would appear first in the vocabulary of a primitive human society and may reach to the same or similar basic concepts as the real ones.*

For the record, I've "discovered" such sort of a list before discovering Swadesh one, inspired by developmental psychology, while trying to imagine and write down a short set of words/concepts which would appear first and in what sequence. I wanted to generalize on them - on the complexity and specifics of these basic concepts, why and how they may appear. For example, the eyes of the mother are among the first "objects" that a child sees. Soon after the child sees the moon and the sun (in the sunset and the dawn). They are all circular, the eyes are spherical... That's answering the question "who invented the wheel"... It was... in front of humans' eyes forever.

The "wheel", in the transportation domain, was rather constructed or built after the tools got good enough, the groups of people grew enough and/also/therefore allowing roads to be built - both by cleaning out forests or utilizing areas which were dry and flat.





Bare in mind that in general Bulgarian linguistics deny that Macedonian is an independent language, it was started to be forcefully and violently diverted in the Yugoslavian period and afterwards. Of course there were difference which have grown, but if people talk in their local dialects in Bulgarian, there are differences between Thrace (where I live) and all other regions such as "Shopskiya Kray", Northern-West, Northern-East, in different villages. There's one prominent dialect in Rhodopes/Smolyan which is almost impossible to decode.

Bulgarians and macedonians don't need translators in order to communicate. Macedonian sounds like a dialect, sometimes funny, for the other side I guess it's the same.**

The similarities are most apparent and harder to deny if you know the grammar which is harder to change forcefully by the political authorities (than replacing or adding a few letters in the alphabet, adding lots of foreignisms). For example, among the Slavic languages, it's only Bulgarian and Macedonian (?) which have determiners (as "the", but it's in the end of the word) and are analytic, there are no cases, but prepositions - as in German and Latin languages.

...

Bulgarian Swadesh list in NLTK


I don't know who's responsible for the translations and making them official.

However, IMO:

1. Где - as of now it's a kind of archaism for къде . 

  "Онуй" for "that" is a dialect? and funny form of онова   .
It's used in the expressive phrase "туй-онуй" and is funny because "уй" sounds like "хуй". That word is the same as the one in the famous greeting in Russian "Пошол на хуй". :)
   
2. "Бастун" is given for stick, however this is a foreignism and a specific instance/application of the general term "пръчка" ("прачка" in Maced.), "палка" is also used for some specific "sticks" ("palka" is given for other Slavic languages).

3. For other words there are also many translation.

баща/татко  (in Macedonian - татко, I don't know what's the frequency there or how they've decided. 

4. 'To swell" in Bulgarian is actively used in many variations which match the roots in other Slavic languages as given in the list:

"подувам се" is given as a translation, but it's also:

1. подпухвам  (пухнуць и др.)
2. набъбвам  (набабрува, мак.)
3. отичам ( otékat, oteći и др.)
4. бухвам (набухати, беларуски?)

4. "Овошка" for "fruit" is another funny item, instead of the more common and ordinary word "плод".
"Овошка" is appropriate for a "fruit tree", short for "овощно дърво" such as an apple tree etc.

Etc., that's what I spotted at a first glance.

I think there should be many words for each entry and more structural data.


How to use it? Install NLTK:

python -m pip install nltk

>python
>import nltk
>nltk.download()

Find the corpus, download it. Then:

from nltk.corpora import swadesh as sw

sw.entries()

Here they show how to get translations between the language pairs:

https://stackoverflow.com/questions/23479912/how-to-translate-words-in-ntlk-swadesh-corpus-regardless-of-case-python






* For instance, I think that "mama" is produced by the first random sound-producing attempts of the baby, "ma" is maybe the simplest syllable, "mama" is more reliable than "ma", because it's repeated (suggests it's a pattern) and yet two repetitons are enough. The baby called their mother "mama".

http://artificial-mind.blogspot.bg/2010/04/learned-or-innate-nature-or-nurture.html


----

**E.g. the Macedonian word for "boyfrend" is "дечко", which in Bulgarian means a little boy or an infantile adolescent/teenager boy, somebody acting inappropriately as a younger child.

"Барам" in Macedonian means "to search" in the search engines, while in Bulgarian it's an expressive word, a stem/root for "to touch" as:

- Обарам/обарвам, набарам/набарвам, прибара/прибарвам, да се барна

However it actually has an old/deducible meaning of "search" by a gradual explorative touching.

"Обарвам" can be applied for "to search (somebody)", because it involves touching, but it's also to erotically touch somebody.

...

Extending the line, there are a lot of funny false-cognates in the Bulgarian-Serbian relation.

"Сине" in Serbian is an address to a "daughter", while in Bulgarian it is an address to a... "son". (However there are Bulgarian dialects where "син" means "daughter", too).

Thursday, June 22, 2017

Insights from the Blue Brain's latest paper on Cliques of Neurons bound into cavities ...

Cliques of Neurons Bound into Cavities Provide a Missing Link between Structure and Function

Front. Comput. Neurosci., 12 June 2017 | https://doi.org/10.3389/fncom.2017.00048

https://medicalxpress.com/news/2017-06-blue-brain-team-multi-dimensional-universe.html



I think the paper is a good food for thought, it directs for some advanced/interesting areas of mathematics such as Algebraic Topology.


Concepts and ideas to think about:
DAG/graphs, (directed) cliques, simplex/simplices, directed simplical complexes, sink/source (also vector calculus and gradients), cavities, dynamics of the above.

Betti number, n-th B.n., cavity formation

nb - n-th Betty number, ... number of n-dim cavities

Sink - last neuron, Source - first neuron. 

locally - simplices 
           \
            cavities - globally 

directed flag complex
 shape - topology

Simplex ~ triangle in any dimension. Maximal simpl.Dim. ~ number of linearly-independent vectors?; not part of a higher dim. simpl.

Topology - connectivity, homology

formation-disintegration  -- rise of dimensionality, then reduction
random matrix
structural m.
transmission-response matrix
pre-, post- synaptic spike , period 10, 20 ms ...

cavity - homology class, fully enclosed by directed simpl. - dim.




Friday, June 2, 2017

Приключенията на юнака Тош, The Twenkid, в хакерспейса Хакафе в Пловдив - нов блог/влог? | The Yunak Tosh, the Twenkid's, Adventures in the Hackerspace at Hackafe Plovdiv


Откриване? Ще видим.









И да бъде вечна паметта на юнака, поет, публицист, творец, гений, революционер, истинист, борец за правда и за свобода и герой -
Христо Ботев!





Monday, May 29, 2017

Cherry Jam's debut music video - "On the Cherry Tree" | Blues-Rock-Jazz Comedy Song



Camera operator and editing - Todor Arnaudov, the author of maybe the first University course in Artificial General Intelligence in the world*, taught at Plovdiv University in 2010... ;)

More serious stuff to come... LOL


The video was edited mainly with "Twenkid FX Studio"** and processed also with a set of free software tools: FFmpeg, VirtualDub, Audacity.

The lyrics is in Bulgarian.

* Not counting the summer school after the Xiamen's AGI conference in 2009

** Twenkid FX Studio is an in-house system


Thursday, March 30, 2017

Телевизията и детето, Вирджилиу Георге и забележки от Тодор Арнаудов - чернова -- Television Damages the Brain


Обобщение, съдържание и кратки извадки от книгата "Телевизията и детето" на биофизика Вирджилиу Георге, изд. Омофор 2010, и забележки от Тодор Арнаудов, чернова от 28/11/2016 г.

Телевизията и детето


Задължително четиво за родители!

Какво причинява "спокойствието", което печелите като оставите децата да се хипнотизират от телевизора.


Бебе, хипнотизирано със смартфон


Телевизията и детето

№1

До двегодишна възраст - да не се гледа ТВ
След това, до края на училищната възраст - до два часа на ден видео изображения

До 5-6-години - далече от компютри и видеотехнологии

Възрастни:
- нервно напрежение
- по-трудно съсредоточаване и по-слаба памет
- апатия, скука, депресия, тревожност
- личностни смущения

Стресът - може да разрушава клетки от челните дялове на кората на мозъка

№2

Днешните деца са все по-трудни
Сериозни нервни и психически проблеми

№3 Приспиване

Неокортекс, кората на мозъка, електроенцефалограма - ЕЕГ: бета вълни - бодърстване, алфа - пасивност, отпуснатост, хипноза, тета - сън

бета - 30 Хц, алфа - 13 Хц, тета - 8 Хц

Колкото по-дълго време пред телевизора - по-бавни мозъчни вълни - състояние подобно на сън

Алфа - "извън пространството", без посока
Бета - зрително съсредоточоване и насочване към цел извън себе си

-- телевизията отслабва вниманието, вместо да го усилва

№4 Потискане на дейността на лявото полукълбо

- Телевизията вцепенява лявото полукълбо - критична мисъл, анализ, организиране
- Дясното полукълбо върши цялата познавателна работа - обработва холистично, мисли емоционално, а не разсъждава. Не обработва рационално, дясното п. не е оперативно.

Хората рядко разбират онова, което гледат по телевизията.

"от 2700 изследвания 90% са разбрали погрешно това, което са гледали по телевизията само преди няколко минути"

№5

Прекъсване на връзката между лявото и дясното полукълбо (мазолестото тяло)

Неосъзнаване на информацията

"Сомнамбулизъм"

Умствена пасивност, възприемане на огромно количество информация

Сериозно засягане на развитието и функционирането на челните дялове на мозъка

Дейността на мозъчната кора при гледане на телевизия е коренно променена (сравнено с работата й в естествена среда)

№6

Структурни изменения на мозъка

- Способността за концентрация на учениците намалява. Четене, писане и умение за общуване - в упадък, "даже и в най-добрите среди".

- ... "Сериозни пропуски в абстрактното и логическо мислене...." (NAEP, USA)

- Резултатите по математика при студенти са обезсърчителни, когато решението изисква повече от един етап. Едва 44% от гимназистите могат да пресмет колко трябва да им върнат, от 3 долара, с които са поръчали два вида храна..." (NAEP, USA)

- Едва 20% от младежите на 20-год. в. - да напишат молба за работа, 4% разбират разписанието на автобусите, 12% могат да подредят 6 обикновени дроби по големина. Само 20-25% от днешните ученици могат ефективно да се обучават по традиционните методи.   (Алберт Шенкър, президент на Американската федерация на преподавателите)

- Дори и в най-добрите колежи

- Снижаване на нивото на задължителни умения за четене, писане, аналитично мислене

- Въпреки положените усилия, учениците не показват особено развитие на висшата мисловна дейност



№7 Какво се случва? Защо?

- Не издържа тезата, че децата не желаят да учат, защото много от тях посещават специални курсове за наваксване и повишаване на успеха

Какво се случва с детския и младежкия мозък в медиатизираното общество?
Каква е ролята на гледането на телевизия и компютър?

№8 Ролята на средата

- Стимули, взаимодействие, изследване - въздействие върху действителността; докосване, игра; размишление, въображение
- Критичен период за развитие на мозъка
- Спокойна среда - вътрешни мисловни процеси и вътрешен диалог
- Слово - общуване с родителите

- Силни, резки шумове и стимули - страх, могат да създадат условен рефлекст на отбягване.

* Децата са емоционално по-слаби и чувствата им въздействат по-драматично, затова имат нужда от повече любов и внимателно отношение

(Виж Класическо и оперантно обучение, виж бехивиоризъм, ...)

- Нормалният мозък сам се стимулира, чрез активно взаимодействие с онова, което намира за интересно в средата.

- Личен опит

- Родителите, майка, насочване, постепенно внимателно обучение

№9 Светът на телевизията като среда на опита

с.33

№10  Телевизия и формиране на пасивна умствена функция

№11 Въздействие на телевизията върху развитието на лявото полукълбо

№12 Телевизия и интелектуални постижения

с.44

№13 Умствени увреждания

"Learning disabilities", LD

№14 Четене

№15 Учене и телевизия

№16 Въздействие на телевизията на подсъзнателно ниво

№17 Проблеми с вниманието

с.64, АДХД

№18 Телевизорът и насоченото внимание


№19 Телевизия и прояви на хиперактивност, раздразнителност и безсъние

№20 Телевизионна епилепсия

№21 Език и усвояване на езика

№22 Проблеми с вниманието и учението. Предният мозък и телевизията

№23 Екранът и развитието на предния мозък

с92

№24  Хипнотизиращото действие на телевизията

с103

№25 Телевизионна зависимост

№26 Справочната функция на масмедиите, възпитателният ефект и спиралата на мълчанието

№27 Образование чрез телевизия

с114

- Оспорване на авторитета

X - Телевизията отглежда бунтарско поведение против всяка норма, принципи и авторитет  ...
...за да стане лесна плячка на консуматорска пропаганда и манипулиране
* противоречие
(и няма цитирани конкретни научни изследвания)
Тодор:
За манипулиране- да, но в същото време го постига и подхранва чрез възпитание в кланяне на авторитети - знаменитости, актьори, певци, велики личности, политици.

Телевизията става авторитет, тя е "Господ", виж "Какво му трябва на човек..." от РАЗУМИР, 2014 г.

Телевизията е гласът на най-мощната пропаганда на държавата и властните хора и заедно с хипнотичното действие внушава и води хората да мислят по един и същи начин, а не да се бунтуват. (В някои случаи може да ги манипулират да се бунтуват.)


Консуматорската култура дресира чрез телевизията, американската рекламна индустрия е в разцвет от 50-те години, когато се появява и телевизията.
№28 Еротика и сексуалност

с116

№29 Отъждествяване с герои от малкия екран

с123

* вж по-горе за противоречието - кланяне на авторитети (герои), които са създадени от присъствието им на екрана

№30 Телевизията и отношението към сексуалността

с127

№31 Порнографска зависимост

-  Мъже, които гледат порнография приемали с лекота насилието над жените и тяхното унижаване


Тодор:


*1 Терминът "зависимост" е оспорен през 2016 г.?, че хората които гледат и харесват повече порно просто имат по-високо либидо, нямат партньор и т.н.

*2 Оспорвам това твърдение, определението "с лекота" и дефиницията на "унижаване". Сексът между двама искащи да го правят не е "унижение" и отношението между двамата, които изглеждат "груби", ако не са насила, също не са "унижение", а част от играта на половия акт.

*3 Сексуалните маниаци може да гледат порно, но извращенията им не идват от това, че гледат порно, защото всички младежи и много млади мъже гледат порно и не са нито психопати, нито изнасилват жени. Според други твърдения и спекулации, порното води до намаляване на сексуалното насилие над жени - броя на изнасилванията, - защото предоставя алтернатива.

* Авторът на книгата е също така богослов.

№32  Психологически и физиологични причини на зависимостта от еротиката

с135

№33 Еротика, брак, семейство. Изводи

с.137, с.139

№34 АГРЕСИЯ.

Телевизионното насилие и агресията в реалния свят

с143

№35 Урокът на телевизионното насилие

№36 Семейният живот и телевизията

№37 Децата, младежите и телевизията в контекста на нихилистичната култура

№38 Нихилизмът и идентичността на "новия човек"

№39 Портрет на телевизионното дете

№40  Превенция

с182

- Насърчаване на мисленето
- Упражняване на вниманието
- Контрол на поведението


№40 Изводи

№41 Приложение I. Компютърът, видеоигрите и интернет

с193

№42 Приложение II. Ръководство за родители и възпитатели

№43 Фактори за мозъчното развитие на детето

№44 Телевизионният свят като опитна среда

№45 Дейността на мозъчната кора по време на телевизионното действие

№46 Последици от телевизионното гледане върху мисловния живот на човека

Thursday, February 9, 2017

Funny Deep Learning Image Captioning - Sentence Generation


http://cs.stanford.edu/people/karpathy/deepimagesent/generationdemo/


a baby laying on a bed with a stuffed bear

a bowl of fruit is sitting on a table

a group of elephants walking across a dirt road

a cat sitting on a window sill looking out the window

a bunch of bananas are on a table

a man sitting on a couch with a laptop and a laptop

a man is playing tennis on a tennis court

a woman sitting on a couch with a laptop

a woman is standing in front of a store



Too many of them.

It seems the authors like skateboard, frisbees, giraffes and bananas.
Cats and dogs are common.


It's disappointing how the pattern of word-mappings gets transparent.

Schemes like:

"on the couch"
"on the table"
"down the slope"
"on the rode"
...


Also "with a * and a **" (thus "with a laptop and a laptop")



Monday, December 26, 2016

Contra in Hackafe | Контра в Хакафе Пловдив | Premiere - Премиера



CONTRA IN HACKAFE




That's my new short-film, where I'm a writer, director, actor, "make-up artist", "production designer", music composer and performer*, editor, animator, developer of the software for editing, ... and whatever.

Contra (the name may adjust) is my new nickname, it's also an introduction of my new channel  "Hackerboy", I plan to create something like a "video log" regarding hacker's and hackerspace experience, however I guess it will be an "artistic one".


CINEMATIC PREMIERE

There was a pre-premiere during Hackafe's New Year's party on 22.12.2016 in front of about 35-40 people. The audience laughed. :)

It's a 3-minute low (no) budget movie, one-man show, but if you like video games,  particular classic shooter, costume play (cosplay) and my acting, it's fun.

I'm looking for partners to join me - I want to create more sophisticated sequels, that's an introduction.

To be continued...


* Most of the music is inspired or interpreting/variating motives from the music from the NES version of "Contra", there's also a simple "original" progression in the beginning.

Saturday, November 19, 2016

Леко земетресение в Пловдив на 19/11/2016 г. ? Около 1:22 ч?

? Усетихте ли го?

Или си въобразявам?