Image for post
Image for post

Why is it important?

After an election, it’s often hard to recall who said what. Who was wrong or right, who predicted the right outcome and who used the right data or the right predictive model.

In this article I’ll compile some forecasts for the 2020 US Presidential election. I used these forecasts at 11 AM, November 2nd, one day before the elections. I use maps without toss-ups when available.

Forecasts

(1) fivethirtyeight.com

First website on Google when you search for a forecast. They explain their model here, the map is here. Basically they adjust polls with economic and demographic data, then they try to account for errors by averaging on multiple simulations with different hypothesis. …


Image for post
Image for post
Propagation d’un virus dans une population

Cet article a pour but de transmettre un retour d’expérience sur la simulation de pandémies. Objectif? Comprendre les limites et l’intérêt de ces algorithmes. (Et si vous aussi vous souhaitez jouer, le code est libre!)

Quel type de simulation choisir?

Je divise personnellement les simulations de pandémies en deux sortes. Les simulations “statistiques” et les simulations “physiques”. Pour davantage de détail sur les différents types existants, voir ici et .

Les premières se basent essentiellement sur des statistiques existantes. Ainsi, si un pays dénombre 1000 cas/jour pendant une semaine, il existe un intervalle crédible de cas pour la deuxième semaine, la troisième etc... Cet intervalle peut s’estimer à partir de l’évolution dans le temps du nombre de cas lors des semaines passées dans ce pays ou dans d’autres pays. Ces simulations sont très utiles pour avoir une première idée de la situation future sur un temps court mais elles permettent difficilement une analyse fine de différents scénarios qui n’auraient jamais été testés dans des pays suffisamment similaires. …


Image for post
Image for post

Introduction

In this article I’ll present a beginner-oriented framework implementing neural networks in C++. The main goal of this code is to understand the root of neural networks for beginners, it also allows multiple modifications which are usually hard to implement in classical high-level framework (Pytorch, Tensorflow, Keras etc..).

So this code can also be used for some research because you can also do things you couldn’t do in other frameworks.

In this article:

  1. Features of the framework
  2. Neural networks from scratch
  3. Framework design
  4. Exotic backpropagation-free optimizer: Shaking Tree optimizer
  5. What I learned doing this
  6. Github repository

Let’s go!

1. Features of the framework

  • Graph implementation of neural network (no…


Image for post
Image for post
Linear Bottleneck with Efficient Channel Attention instead of Squeeze Excitation

Introduction

CNN are great blablabla… Let’s get to the point. SOTA for image classification on Imagenet is EfficientNet with 88.5% top 1 accuracy in 2020. EfficientNet comes from MobileNet V2. In this article, I introduce a combination of EfficientNet and Efficient Channel Attention (ECA) to highlight the results of the ECA paper from Tianjin/Dalian/Harbin universities.

Linear Bottleneck

EfficientNet is based on MobileNetV2. MobileNetV2 is composed of multiple blocks which are called linear bottlenecks or inverted residuals (they’re almost the same). More informations here, or in the mobilenetv2 paper.

Image for post
Image for post
Linear Bottleneck (cf MobileNetV2 paper)

Linear Bottleneck is a residual layer composed of one 1x1 convolution, followed by a 3x3 depthwise convolution, then finally a 1x1 convolution. It is used as a basis for EfficientNet because of its efficiency (yeah). 1x1 convolutions don’t require much parameters so do 3x3 depthwise convolutions, and they’re fast to compute. …


Image for post
Image for post
Modification des représentations internes d’un réseau de neurones en cours d’entrainement

1. Le formalisme de l’apprentissage automatique

L’apprentissage automatique est la science regroupant les algorithmes ayant la capacité d’apprendre des données. Cette notion d’apprentissage est représentée mathématiquement de la façon suivante:

Image for post
Image for post
Équation f_w(x_i) = y_i

Ici, x représente un ensemble de données. Pour chaque donnée x_i (un scalaire, un vecteur, une matrice ou un tenseur), il existe une valeur associée y_i à apprendre. L’apprentissage automatique avec la fonction f revient à trouver ses paramètres w tels que le résultat ŷ_i estimé par la fonction soit le plus proche possible de la vérité y_i pour l’ensemble des x possibles.

Par exemple, si f est une fonction linéaire simple, on a w = [a,b] et donc f_[a,b](x_i) = a*x_i+b = ŷ_i. Il existe de nombreuses fonctions d’apprentissage automatique. …


Image for post
Image for post

[UPDATE 2020/10/03: Prise en compte des nouveaux GPUs de Nvidia]

L’intelligence artificielle, à travers l’apprentissage profond, est une discipline bien établie. Les algorithmes utilisés progressent, mais ces algorithmes dépendent de machines bien physiques, nous allons voir comment construire un serveur d’apprentissage profond!

Qu’est-ce que c’est qu’un serveur? C’est une machine qui coûte à l’achat, qui consomme et coûte de l’électricité à l’usage, et qui utilise les logiciels que vous souhaitez sur le système d’exploitation que vous choisissez pour exploiter les composants que vous avez achetés.

Quel usage?

Première question à se poser: qu’est ce que l’on souhaite faire? Il est possible de faire de l’apprentissage profond sur à peu près n’importe quel ordinateur. Avoir des résultats proches de l’état de l’art sur un dataset comme MNIST est accessible même sur des processeurs de vieux téléphones. …


Image for post
Image for post

Notre première application est disponible ici: https://www.hyugen.com/project/ap_face

Il s’agit d’une application de mesure de beauté sur webcam ou fichier. La métrique de beauté est principalement définie par les standards esthétiques contemporains.

Différents modèles ont été conçus, le premier modèle publié est celui qui respecte le mieux le compromis entre l’efficacité et le temps d’inférence, un modèle qui semble bien plus efficace existe mais il est trois fois plus lent que le modèle actuel ce qui rend son usage peu satisfaisant en temps réel sur des images provenant de la webcam, notamment sur des ordinateurs peu puissants.

La genèse

Une part du développement de l’intelligence humaine est aidé par la faculté de vision, bien qu’elle ne soit pas nécessaire. Dans l’objectif d’aider ce développement, nous avons développé un framework de deep learning sur la vision. Après avoir approché les résultats de l’état de l’art, nous avons décidé d’une première application permettant de montrer le travail initial effectué ainsi que de vérifier la validité de nos algorithmes. L’application qui nous a semblé la plus recherchée et la plus accessible au tout venant est une application de mesure de beauté. …


Image for post
Image for post

Le problème: Les limites

Nous démarrons un projet pour résoudre un ou plusieurs problèmes. Pour concevoir une réponse à un besoin. Nous avons fais, faisons et allons faire face à des défis climatiques, des maladies, des crises économiques et des instabilités politiques. Nous avons besoin d’un développement durable et d’une capacité accrue dans la recherche et la stratégie économique. De nombreuses limites ont été repoussées grâce à une abondance d’énergie et de ressources. …


Image for post
Image for post

Aujourd’hui nous lançons le site web autour de la (future) société Hyugen qui aura pour but la conception et l’utilisation d’une intelligence artificielle générale.

Le site web servira à partager des informations sur l’avancement du projet, il mettra en avant les algorithmes intermédiaires que nous déploierons et il permettra également de montrer nos compétences pour répondre aux besoins des individus ou sociétés qui en feraient la demande ou que nous contacterions.

Support us 💙

You can follow us on Twitter to show support and to see all news (no tweet-spam, only news), or here on Medium.

About

Hyugen AI

We work on statistics, machine learning, AI and we want to bring Artificial General Intelligence into the real world — Website: https://www.hyugen.com

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store