Oleg Zabluda's blog
Wednesday, October 05, 2016
Multi-digit Number Recognition from Street View Imagery using Deep Convolutional Neural Networks (2013) Ian J.
Multi-digit Number Recognition from Street View Imagery using Deep Convolutional Neural Networks (2013) Ian J. Goodfellow, Yaroslav Bulatov, Julian Ibarz, Sacha Arnoud, Vinay Shet
"""
Traditional approaches to solve this problem typically separate out the localization, segmentation, and recognition steps. In this paper we propose a unified approach that integrates these three steps via the use of a deep convolutional neural network that operates directly on the image pixels. [...] We find that the performance of this approach increases with the depth of the convolutional network, with the best performance occurring in the deepest architecture we trained, with eleven hidden layers. We evaluate this approach on the publicly available SVHN dataset and achieve over 96% accuracy in recognizing complete street numbers. We show that on a per-digit recognition task, we improve upon the state-of-the-art, achieving 97.84% accuracy. We also evaluate this approach on an even more challenging dataset generated from Street View imagery containing several tens of millions of street number annotations and achieve over 90% accuracy. To further explore the applicability of the proposed system to broader text recognition tasks, we apply it to synthetic distorted text from reCAPTCHA. reCAPTCHA is one of the most secure reverse turing tests that uses distorted text to distinguish humans from bots. We report a [superhuman] 99.8% accuracy on the hardest category of reCAPTCHA.
"""
https://arxiv.org/abs/1312.6082
http://static.googleusercontent.com/media/research.google.com/en//pubs/archive/42241.pdf
ICLR14: I Goodfellow: Multi-digit Number Recognition from Street View Imagery using ConvNets [OZ: with Yaroslav Bulatov, Julian Ibarz]
https://www.youtube.com/watch?v=vGPI_JvLoN0
https://arxiv.org/abs/1312.6082
Labels: Oleg Zabluda
Ещё одна история про попавшего попаданца
Ещё одна история про попавшего попаданца
"""
Перенос во времени произошел совершенно безболезненно и даже как-то почти незаметно. Просто в один момент высотки сменились деревянными двухэтажными домами, поток машин - одинокой полуторкой, а афиша со Стасом Пьехой - плакатом со Сталиным.
- Я попаданец! - изумленно осмыслил ситуацию Ярослав.
Но для полной уверенности он решил обратиться к местным, или, вернее сказать, нынешним. Вот компания молодых людей - одеты скромно, но их простые открытые лица носят печать одухотворенности и внутренней чистоты, которая давно забыта в двадцать первом веке. Наверное, идут в аэроклуб.
- Какой сейчас год? - спросил Ярослав.
- Сороковой, дядя. А ты, гляжу, попаданец?
Второй раз за пять минут Ярославу пришлось изумленно осмысливать ситуацию. Неужели он не единственный путешественник во времени?
- Поди, и ноутбук у тебя есть? - продолжали распрос одухотворенные юноши.
- Э... Нет, только мобильник.
- Сгодится и мобильник. Пойдем, мы тебя до Кремля проводим.
Но вместо Кремля Ярослава проводили до какого-то совсем уж глухого закоулка, и там несколько раз сильно, с чувством ударили под дых. Несчастный попаданец хотел крикнуть: "милиция!", но смог лишь тихо просипеть что-то неразборчивое.
- Молчи, жоподранец, а то порежу! - пригрозил самый одухотворенный парень и ещё раз ударил.
- Оставь! - вмешался его несколько менее одухотворенный товарищ, - Не собака, всё же...
- Собаку жальче! Эти ведь твари как к нам попадают, так первым делом давай учить, кого ещё расстрелять надо да что запретить. Хоть бы одна сволочь сказала: товарищ Сталин, сделай народу послабление. Нет, хрен там...
Тем временем Ярослава раздели до трусов в темпе короткометражного гей-порно. Вся одежда и содержимое карманов стали добычей хроноаборигенов. Они обсуждали свои трофеи, демонстрируя редкую осведомленность.
- Глянь-ка, "Гэлакси"! И гарнитура при нём! Жаль, зарядки нет.
- Чай, сороковой год щас, сделают артельские зарядку. Главное, за настоящую цену сбыть, а не как в тот раз...
- Эх, богато живут в будущем! В телефоне и так часы есть, а он ещё отдельно котлы носит!
В итоге кроме трусов Ярославу оставили один лишь паспорт и пластиковые карточки, соврешенно для грабителей бесполезные. Даже российские деньги с двухглавыми орлами они для какой-то цели забрали с собой. Охая от боли, путешественник во времени кое-как добрел до местной милиции.
- Попаданец? - равнодушно спросил милиционер, - С какого года прилетел?
- С шестнадцатого.
- А чего голый?
- Ограбили...
- Бывает, - всё так же равнодушно произнес страж порядка, - Нашел где своей мобилой трясти.
- Я думал, при Сталине не было преступности! - Ярослав чуть не плакал.
Офицер посмотрел на него с брезгливой жалостью. Через час попаданца, уже кое-как одетого, отвезли в Управление по делам хрономигрантов. При этом милиционеры воспользовались обычным трамваем, и даже честно заплатили за билет для конвоируемого. Ярослав, привыкший, что в его время полиция передвигается почти исключительно на авто, начал понимать, что очутился в очень бедной стране, а попаданцам тут придают не больше значения, чем обычным хулиганам.
Сотрудники управления носили военную форму - уже с погонами, даром что ещё сороковой год. Они сфотографировали Ярослава анфас и в профиль, взяли отпечатки пальцев, отвели к врачу на осмотр, забрали паспорт, а взамен выдали совершенно необъятную анкету на множестве листов и шариковую авторучку.
- Разве они уже есть? - удивился попаданец.
- За валюту в Америке покупаем, - объяснил чиновник, - потому что вы нормальными писать совсем не умеете, зря только бланки поганите.
Ярослав принялся тщательно заполнять анкету, включая экзотические вопросы про наличие родственников на оккупированной в 1941-1944гг. территории. Рядом, тоже с анкетой, сел полный мужчина лет сорока - судя по одежде, современник Ярослава.
- Здорово, собрат! Ты с какого года?
- С шестнадцатого.
- А я с девятого. И как там у вас в шестнадцатом?
- Да никак. С хохлами воюем помаленьку.
- С к-е-е-е-м?!..
Ярослав уткнулся в анкету. Вопросы дошли до образования, и он с гордостью, старательно выводя буквы, сообщил, что является дипломированным инженером. Не интеллигент, слава богу, профессия есть. Не пропаду и при Сталине! А что раньше не по специальности работал, так не беда, быстро всё вспомню и втянусь. С иностранными языками напало сомнение - вдруг сочтут шпионом? - но все же попаданец написал, что знает английский. Сдавая анкету, Ярослав наконец-то почувствовал некоторую уверенность в завтрашнем дне.
Вечером попаданцев - их было несколько десятков - отвели в столовую и накормили весьма скромным полувегетарианским ужином. В большом помещении наподобие казармы Ярославу выделили верхнюю койку, с которой он полночи донимал товарищей по несчастью распросами. Выяснить удалось следующее: попаданцы поступали ежедневно в больших количествах, с одной только Москвы по несколько человек, Управление по делам хрономиграции принимало их, отправляло в пункт временного размещения, сортировало и пыталось найти бедолагам место и дело в Советском Союзе 1940 года. Продолжалось всё это уже не первый год.
После завтрака Ярослава вновь отправили заполнять бумаги, но теперь напечатанные на листах вопросы озадачили куда сильнее, чем вчерашние. "На нерастяжимой невесомой нити длиной 1 м висит груз массой 1 кг. В него ударяет пуля массой 10 гр со скоростью..." Попаданец потер лоб. Что за черт?! "...найдите угол, до которого отклонится..." Это что, задачи по физике? Предки решили проверить, какой из него инженер? Ладно, подыграем им...
Дело почти пошло на лад, когда Ярослав смог нарисовать схему приложения сил, но в самый ответственный момент он понял, что не помнит, кто есть кто в паре синус-косинус и как их, собственно, находить. Он взялся было за следующую задачу, но та оказалась из области оптики, а про оптику попаданец со школы знал одно: она ему никогда не понадобится. Чтобы прервать дурную последовательность, Ярослав решил начать с конца, но в конце вместо физики был уже английский. И зачем только было вообще про него писать в анкете?! Теперь требовалось придать глаголам правильные времена, а ведь в английском их целая дюжина, если не больше... Ярослав загрустил.
Следующую пару недель пришлось провести в казармоподобном пункте временного размещения, ожидая решения своей участи и осваивая сложное искусство растопки углем. Счастливчики, для которых находилась работа по специальности, уезжали, но на их места каждый день поступали новые в таком количестве, что скоро все помещения переполнились. Тогда главный офицер торжественно объявил, что попаданцам предстоит выслушать обращение самого товарища Сталина. Ярослав готов был разорваться между ужасом и восторгом, но оказалось, что речь идет всего лишь о кинозаписи. Всех гостей из будущего согнали в зал, погас свет и застрекотал проектор. Пленка была цветная, а великий вождь - как живой.
- Дорогие товарищи попаданцы! - начал говорить экранный Сталин с неприятно сильным акцентом, - Все вы читали там у себя книжки, в которых люди вроде вас прилетают из капиталистического времени ко мне в Кремль, и я там с этими людьми разговариваю. К сожалению, у меня нет возможности поговорить со всеми вами лично, поэтому я сделал эту запись. И вот что я вам хочу сказать: вы очень, очень подвели наше молодое пролетарское государство!
"Когда же я успел?!!" - ужаснулся Ярослав.
- Ваши писатели-фантасты почему-то думали, - продолжал Сталин, - что попаданцы могут быть только в Советском Союзе. Но наука учит нас, что вселенная изоторопна...
"Какие слова Хозяин знает!" - теперь Ярослав восхитился.
- ...поэтому та же необъяснимая пока сила, которая закидывает вас к нам, закидывает в капиталистические державы их собственных попаданцев из будущего. И поскольку в будущем промышленное развитие империалистов выше, чем ваше, то, следовательно, наши империалисты получают из будущего больше ученых, инженеров и квалифицированных рабочих. И притом высшего качества. Поэтому попаданцы не только не помогли уменьшить наш отрыв от капиталистов, но он стал больше, чем был бы без них! И чтобы нейтрализовать это ухудшение, советский народ вынужден ещё больше трудиться и ещё скромнее жить, чем это было в вашей истории! Ай-ай! А всё из-за того, что вы негодные специалисты!
Ярославу стало стыдно.
- К счастью, - успокоил Сталин, - узнав о грядущем провале авантюрной стратегии Гитлера, военная и финансовая верхушка Германии избавилась от бесноватого ефрейтора и решила повременить с мировым господством. Но этой передышкой в Европе не дают нам воспользоваться японские милитаристы в Азии. Укрепив свою промышленность великолепными кадрами из будущего, они перевооружили армию новой техникой и, несмотря на георическое сопротивление наших войск, грабительски захватили половину Монголии.
Тут изображение вождя на время сменилось кадрами военной кинохроники - видимо, японской, поскольку изображались в основном победоносные японские войска, и оснащены они были так, что уместно смотрелись бы не в сороковых, а в шестидесятых. Об истинной эпохе напоминали только неизменные мечи господ офицеров, будь те даже вертолетчиками. У Ярослава замерло сердце.
- Поэтом было решено позволить нашим попаданцам исправить последствия их попаданческой некомпетентости. У нас есть тридцать, сорок тысяч здоровых мужчин, которые ничего не умеют делать. Этого хватит, чтобы восполнить все потери в Монголии. Я уверен, что бойцы попаданческих дивизий не посрамят имена своих великих предшественников - подростков против Гудериана, студентки Тани - наставницы Жукова, хипстеров в тылу Аненербе и Гоги Кривого, разрушителя Пентагона!
"""
http://jakobin1793.livejournal.com/269046.html
http://jakobin1793.livejournal.com/269046.html
Labels: Oleg Zabluda
"""
"""
The end may be in sight for software patents—which have long been highly controversial in the tech industry—in the wake of a remarkable appeals court ruling that described such patents as a “deadweight loss on the nation’s economy” and a threat to the First Amendment’s free speech protections.
The ruling, issued on Friday by the U.S. Court of Appeals for the Federal Circuit, found that three patents asserted against anti-virus companies Symantec and Trend Micro were invalid because they did not describe a patentable invention. The patents were owned by Intellectual Ventures, which has a notorious reputation in the tech world as a so-called “patent troll,” a phrase that describes firms that buy up old patents and wage lawsuits in order to demand payments from productive companies.
The most important part of the decision, which has created a stir among the patent bar, is a concurrence by Circuit Judge Haldane Mayer. In striking down a key claim from U.S. Patent 5987610, which claims a monopoly on using anti-virus tools within a phone network, Mayer says it is time to acknowledge that a famous Supreme Court 2014 decision known as “Alice” basically ended software patents altogether.
The Alice case involved a company that claimed a monopoly on the age-old idea of escrow because it had recreated the process on the Internet. The Supreme Court, however, said such claims were merely abstract ideas that are ineligible for protection and that the only way to get a patent is if there is some sort technological improvement for the computer itself.
In his ruling, Judge Mayer says the Alice decision should be taken to mean that software itself is not patentable.
“Software lies in the antechamber of patentable invention. Because generically-implemented software is an “idea” insufficiently linked to any defining physical structure other than a standard computer, it is a precursor to technology rather than technology itself,” he writes.
Software Patents as a Threat to Free Speech
Friday’s ruling is also significant because Judge Mayer eschews the insider baseball language that typically dominates patent law, and addresses patents in the broader context of technology and government monopolies.
Pointing out that intellectual property monopolies can limit free speech, Mayer notes that copyright law has built-in First Amendment protections such as “fair use” and that patent law must include similar safeguards. He suggests that the safeguard comes in the form of a part of the Patent Act, known as “Section 101,” which says some things—including abstract ideas—simply can’t be patented in the first place.
Citing briefs from the American Civil Liberties Union and the Electronic Frontier Foundation, Meyer writes:
“As the most participatory form of mass speech yet developed, the Internet deserves the highest protection from governmental intrusion.” […] A robust application of section 101 at the outset of litigation will ensure that the essential channels of online communication remain “free to all men and reserved exclusively to none.” Most of the First Amendment concerns associated with patent protection could be avoided if this court were willing to acknowledge that Alice sounded the death knell for software patents.
He adds that, because software is basically a form of language, its intellectual property protection should be limited to copyright—which covers things like musics and books—rather than patents.
In addition to the discussion on Alice and free speech, the decision also offers a frank discussion of the impact of patents on the tech industry, and the success of patent trolls in exploiting them.
Quoting a recent Federal Circuit ruling in a long-running case between Google GOOG 0.44% and Oracle ORCL 0.95% , Mayer writes that the “complex and expensive patent system is a terrible fit for the fast moving software industry,” adding that “under our current regime, those who scamper to the PTO early, often equipped with little more than vague notions about using computers to automate well-known business and social practices, can reap hefty financial dividends” at the expense of companies who actually make products.
All of this is likely to make those who invest in patent trolling ventures—more politely known as “non-practicing entities”—uneasy. While companies like Intellectual Ventures have raised billion dollar funds devoted to exploiting patents, recent Supreme Court rulings and changes to Patent Office producers have made patents harder to enforce, and patent trolling less lucrative. The end of software patents would only add to this.
Friday’s ruling does not, however, mean the immediate end of software patents because Mayer’s ruling came as a concurrence in a split 2-1 ruling. But it is consistent with a larger skepticism on the part of courts towards software patents, and could lead more judges to reject them outright.
"""
http://fortune.com/2016/10/03/software-patents/
http://fortune.com/2016/10/03/software-patents
Labels: Oleg Zabluda