[Video] A Model for Language Acquisition

In this article, we introduce an algorithm which separately trains multiple neural networks without usual supervision to achieve a behaviour that could be assimilated to human verbal mimicry, verbal imitation, or early lexical acquisition. Origins Unsupervised learning (UL) and self-supervised learning (SSL) describe the way an algorithm can train a model…

Everything you need in one python file, without extra libraries Two weeks ago, I wanted to understand Transformers. I read the original paper, I read articles I could find online, I listened to podcasts on Youtube. And then I tried to re-implement the model all by myself. It was a…

Cet article a pour but de transmettre un retour d’expérience sur la simulation de pandémies. Objectif? Comprendre les limites et l’intérêt de ces algorithmes. (Et si vous aussi vous souhaitez jouer, le code est libre!) Quel type de simulation choisir? Je divise personnellement les simulations de pandémies en deux sortes. Les simulations “statistiques” et les…

Introduction In this article I’ll present a beginner-oriented framework implementing neural networks in C++. The main goal of this code is to understand the root of neural networks for beginners, it also allows multiple modifications which are usually hard to implement in classical high-level framework (Pytorch, Tensorflow, Keras etc..). So this…

Introduction CNN are great blablabla… Let’s get to the point. SOTA for image classification on Imagenet is EfficientNet with 88.5% top 1 accuracy in 2020. EfficientNet comes from MobileNet V2. In this article, I introduce a combination of EfficientNet and Efficient Channel Attention (ECA) to highlight the results of the ECA…

1. Le formalisme de l’apprentissage automatique L’apprentissage automatique est la science regroupant les algorithmes ayant la capacité d’apprendre des données. Cette notion d’apprentissage est représentée mathématiquement de la façon suivante:

[UPDATE 2020/10/03: Prise en compte des nouveaux GPUs de Nvidia] L’intelligence artificielle, à travers l’apprentissage profond, est une discipline bien établie. Les algorithmes utilisés progressent, mais ces algorithmes dépendent de machines bien physiques, nous allons voir comment construire un serveur d’apprentissage profond! Qu’est-ce que c’est qu’un serveur? C’est une machine…