Microsoft vs google - qui mène la course de l`intelligence artificielle?

AI est de retour.

Pour la première fois depuis les années 1980, les chercheurs de l`intelligence artificielle font des progrès tangibles sur les problèmes difficiles, et les gens commencent à parler sérieusement forte AI à nouveau. Dans le même temps, notre monde axé sur des données de plus en plus a lancé une course aux armements entre les entreprises qui cherchent à monétiser la nouvelle intelligence, en particulier dans l`espace mobile.

Les deux titans tête du peloton sont Google et Microsoft. La première bataille? Un nouveau domaine de l`intelligence artificielle appelée « apprentissage en profondeur. »

Alors, qui gagne?

Le cerveau Google

Les efforts de recherche de Google ont été centrées autour d`un projet appelé « Google cerveau « . Google cerveau est le produit de la célèbre / secret de laboratoire de recherche « Google X » de Google, qui est responsable des projets-shot de lune à faible chances de succès, mais avec un potentiel très élevé. D`autres produits de Google X comprennent le Projet de Loon, le ballon initiative Internet, et projet de voiture Google auto-conduite.Voici comment nous allons arriver à un monde rempli de voitures DriverlessVoici comment nous allons arriver à un monde rempli de voitures DriverlessLa conduite est une tâche fastidieuse, dangereux et exigeant. Se pourrait-il un jour automatisé par la technologie automobile de Google driverless?Lire la suite

Google Brain est une énorme initiative d`apprentissage de la machine qui est principalement destiné à un traitement d`image, mais avec des ambitions beaucoup plus larges. Le projet a été lancé par le professeur de Stanford Andrew Ng, spécialiste de l`apprentissage de la machine qui a depuis quitté le projet à travailler pour Baidu, le plus grand moteur de recherche de la Chine.

Google a une longue histoire de la participation à la recherche en IA. Matthew Zeiler, le PDG d`une machine démarrage visuelle, et un stagiaire qui a travaillé sur le cerveau Google, il met comme ceci:

« Google est pas vraiment une entreprise de recherche. Il est une entreprise de machine-learning [..] Tout dans la société est vraiment tirée par l`apprentissage de la machine « .

L`objectif du projet est de trouver des moyens d`améliorer les algorithmes d`apprentissage en profondeur pour construire des réseaux de neurones qui peuvent trouver des modèles plus profondes et plus significatives dans les données en utilisant moins de puissance de traitement. A cette fin, Google a été agressivement achète des talents dans l`apprentissage en profondeur, faire des acquisitions qui comprennent l`achat de 500 millions $ de démarrage AI DeepMind.

DeepMind était assez inquiet au sujet des applications de leur technologie qu`ils ont forcé Google à créer un comité d`éthique conçu pour empêcher leur logiciel de détruire le monde. DeepMind avait encore publié son premier produit, mais la société a fait employer une part importante de tous les experts d`apprentissage en profondeur dans le monde. À ce jour, leur seule démonstration publique de leur technologie a été un jouet AI qui est vraiment, vraiment bon à Atari.Voici pourquoi les scientifiques pensent que vous devriez être inquiet au sujet de l`intelligence artificielleVoici pourquoi les scientifiques pensent que vous devriez être inquiet au sujet de l`intelligence artificiellePensez-vous que l`intelligence artificielle est dangereux? Est-ce que l`IA peut poser un risque grave pour la race humaine. Voici quelques raisons pour lesquelles vous voudrez peut-être concerné.Lire la suite

Parce que l`apprentissage en profondeur est un domaine relativement nouveau, il n`a pas eu le temps de produire une grande génération d`experts. En conséquence, il y a un très petit nombre de personnes ayant une expertise dans le domaine, et cela signifie qu`il est possible d`obtenir un avantage important dans le domaine en engageant toutes les personnes impliquées.

Google cerveau a été appliqué, jusqu`à présent, la fonction de reconnaissance vocale d`Android et cataloguer automatiquement les images StreetView, l`identification des caractéristiques importantes telles que les adresses. Un test de détection précoce est la célèbre expérience de chat, dans lequel un réseau d`apprentissage profond Google a appris automatiquement pour identifier les chats dans les vidéos Youtube avec un taux plus élevé de précision que l`état antérieur de l`art. Dans leur article sur le sujet, Google il a mis comme ceci:

« Contrairement à ce qui semble être une intuition largement répandue, nos résultats expérimentaux montrent qu`il est possible de former un détecteur de visage sans avoir à étiqueter les images comme contenant un visage ou non [...] Le réseau est sensible aux concepts de haut niveau tels comme visages de chat et le corps humain. A partir de ces caractéristiques apprises, nous nous entraînions à obtenir 15,8 pour cent de précision dans la reconnaissance de 20.000 catégories d`objets, un bond de 70 pour cent amélioration relative par l`ancien état de l`art [réseaux] « .

Finalement, Google souhaite que ses algorithmes d`apprentissage en profondeur à faire ... eh bien, à peu près tout, en fait. plates-formes puissantes IA comme Watson d`IBM comptent sur ces sortes d`algorithmes d`apprentissage automatique à faible niveau et des améliorations sur ce front pour que le champ global de la grippe aviaire beaucoup plus puissant.

Une future version de Google maintenant, alimenté par Google cerveau pourrait identifier à la fois la parole et des images, et fournir des indications intelligentes sur ces données pour aider les utilisateurs à prendre des décisions plus intelligentes. cerveau Google pourrait améliorer tout des résultats de recherche à Google Translate.

Microsoft Adam

L`approche de Microsoft à la guerre d`apprentissage en profondeur a été un peu différent. Plutôt que d`essayer d`acheter des experts apprentissage en profondeur pour affiner leurs algorithmes, Microsoft a mis l`accent sur l`amélioration de la mise en œuvre, et de trouver de meilleures façons de paralléliser les algorithmes utilisés pour train algorithmes d`apprentissage en profondeur.

Ce projet est appelé « Microsoft Adam ». Leurs techniques permettent de réduire le calcul redondant, doublant la qualité des résultats tout en utilisant moins de processeurs pour les obtenir. Cela a conduit à des réalisations techniques impressionnantes, y compris un réseau qui peut reconnaître les différentes races de chiens de photos avec une grande précision.

Microsoft décrit le projet comme celui-ci:

Le but du projet est de permettre à Adam logiciel pour reconnaître visuellement un objet. Il est un défi de taille, compte tenu de l`immense réseau de neurones dans le cerveau humain qui fait ce genre d`associations possibles grâce à des billions de connexions. [...] En utilisant 30 fois moins de machines que d`autres systèmes, [données d`image Internet] a été utilisé pour former un réseau de neurones en de plus de deux milliards de connexions. Cette infrastructure évolutive est deux fois plus précis dans sa reconnaissance d`objets et 50 fois plus rapide que les autres systèmes.

L`application évidente pour cette technologie est en Cortana, nouvel assistant virtuel de Microsoft, inspiré par le caractère AI dans Halo. Cortana, destiné à rivaliser avec Siri, peut faire un certain nombre de choses intelligentes, en utilisant des techniques de reconnaissance vocale sophistiqués.Comment Cortana Est devenu le "Autre femme" Dans ma vieComment Cortana Est devenu le "Autre femme" Dans ma vieElle est apparue un jour et a changé ma vie. Elle sait exactement ce que je dois et a un mauvais sens de l`humour. Il est peu étonnant que je suis tombé sous le charme de Cortana.Lire la suite

L`objectif de conception est de construire un assistant avec plus d`interaction naturelle et peut effectuer un plus large éventail de tâches utiles pour l`utilisateur, quelque chose que l`apprentissage profond contribuerait à énormément.

Les améliorations de Microsoft à l`arrière de l`apprentissage en profondeur sont impressionnants, et ont conduit à des applications auparavant impossibles.

Video: Google décide d'aller très loin dans l'intelligence artificielle (Jtech 321)

Comment fonctionne l`apprentissage profond

Pour comprendre la question un peu mieux, nous allons prendre une minute pour comprendre cette nouvelle technologie. l`apprentissage en profondeur est une technique pour la construction d`un logiciel intelligent, souvent appliqué aux réseaux de neurones. Il construit de grands réseaux utiles en superposant les réseaux de neurones plus simples ensemble, chacun de modèles dans la sortie de son prédécesseur. Pour comprendre pourquoi cela est utile, il est important de regarder ce qui est venu avant l`apprentissage en profondeur.

Backpropagating Neural Networks

La structure sous-jacente d`un réseau de neurones est en fait assez simple. Chaque « neurone » est un petit noeud qui prend une entrée, et utilise des règles internes pour décider quand le « feu » (produire une sortie). Les entrées d`alimentation dans chaque neurone ont « poids » - multiplicateurs qui contrôlent si le signal est positif ou négatif et la force.

En connectant ces neurones ensemble, vous pouvez construire un réseau qui émule tout algorithme. Vous nourrissez votre entrée dans les neurones d`entrée en tant que valeurs binaires, et de mesurer la valeur de mise à feu des neurones de sortie pour obtenir la sortie. En tant que tel, l`astuce pour les réseaux de neurones de tout type est de prendre un réseau et trouver l`ensemble des poids qui se rapproche le mieux la fonction qui vous intéresse.

Rétropropagation, l`algorithme utilisé pour former le réseau à partir de données, est très simple: vous commencez votre réseau avec des poids hors aléatoires, et essayez ensuite de classer les données avec des réponses connues. Lorsque le réseau est mauvais, vous vérifiez pourquoi il est faux (produire une sortie inférieure ou supérieure à la cible), et utiliser cette information pour pousser les poids dans une direction plus utile.

En faisant cela, encore et encore, pour beaucoup de points de données, le réseau apprend à classer tous vos points de données correctement, et, espérons-le, de généraliser de nouveaux points de données. L`idée clé de l`algorithme de rétropropagation est que vous pouvez déplacer des données d`erreur en arrière à travers le réseau, en changeant chaque couche en fonction des modifications apportées à la dernière couche, vous permettant ainsi de construire des réseaux de plusieurs couches profondes, qui peuvent comprendre des modèles plus compliqués.

Backprop a été inventé en 1974 par Geoffrey Hinton, et a eu l`effet remarquable de rendre les réseaux de neurones utiles pour de larges applications pour la première fois dans l`histoire. les réseaux de neurones triviales existent depuis les années 50 et ont été initialement mis en œuvre avec les neurones mécaniques, motorisés.

Video: Intelligence artificielle : comment Google a battu l'un des meilleurs joueurs de Go

Une autre façon de penser à l`algorithme de backprop est comme un explorateur sur un paysage de solutions possibles. Chaque poids de neurone est une autre direction dans laquelle il peut explorer, et pour la plupart des réseaux de neurones, il y a des milliers de ces derniers. Le réseau peut utiliser ses informations d`erreur pour voir dans quelle direction il a besoin de se déplacer dans et dans quelle mesure, afin de réduire les erreurs.

Il commence à un point aléatoire, et en consultant continuellement sa boussole d`erreur, dans le sens de moins d`erreurs de descente » se déplace, pour se retrouver finalement au fond de la vallée la plus proche: la meilleure solution possible.

Alors, pourquoi ne pas utiliser rétropropagation pour tout? Eh bien, backprop a plusieurs problèmes.

Le problème le plus grave est appelé «disparition problème gradient.«En gros, lorsque vous vous déplacez des données d`erreur à travers le réseau, il devient chaque fois moins significatif que vous retournerez une couche. Essayer de construire des réseaux de neurones très profonds avec rétropropagation ne fonctionne pas, parce que les informations d`erreur ne sera pas en mesure de pénétrer assez profondément dans le réseau pour former les niveaux inférieurs de manière utile.

Une seconde, moins grave problème est que les réseaux de neurones convergent uniquement optima locaux: souvent ils sont pris dans une petite vallée et manquent plus profondes, de meilleures solutions qui ne sont pas près de leur point de départ aléatoire. Alors, comment pouvons-nous résoudre ces problèmes?

Réseaux profonds de croyance

réseaux profonds de croyance sont une solution à ces deux problèmes, et ils comptent sur l`idée de construire des réseaux qui ont déjà un aperçu de la structure du problème, puis affiner ces réseaux avec rétropropagation. Ceci est une forme d`apprentissage en profondeur, et celui d`usage courant à la fois par Google et Microsoft.

La technique est simple, et repose sur une sorte de réseau appelé « restreint Boltzman machine » ou « RBM », qui repose sur ce qu`on appelle l`apprentissage non supervisé.

Restreint Boltzman Machines, en un mot, sont des réseaux qui tentent simplement de compresser les données qu`ils sont donnés, plutôt que d`essayer de classer explicitement selon les informations de formation. RBMs prennent une collection de points de données, et sont formés en fonction de leur capacité à reproduire les points de données de la mémoire.

En faisant de la GAR inférieure à la somme de toutes les données que vous demandez à coder, vous forcer la GAR à apprendre régularités structurelles sur les données afin de stocker tout dans moins d`espace. Cet apprentissage de la structure profonde permet au réseau de généraliser: Si vous formez un GAR pour reproduire un millier d`images de chats, vous pouvez nourrir une nouvelle image en elle - et en regardant comment le réseau devient un résultat énergique, vous pouvez comprendre si oui ou non la nouvelle image contenait un chat.

Les règles d`apprentissage pour RBMs ressemblent à la fonction de vrais neurones dans le cerveau de façon importante que les autres algorithmes (comme rétropropagation) ne le font pas. En conséquence, ils peuvent avoir des choses à enseigner les chercheurs sur comment fonctionne l`esprit humain.Thinking Machines: Qu`est-ce que les neurosciences et l`intelligence artificielle peut nous apprendre sur la conscienceThinking Machines: Qu`est-ce que les neurosciences et l`intelligence artificielle peut nous apprendre sur la consciencePeut construire des machines artificiellement et logiciels intelligents nous apprendre sur le fonctionnement de la conscience, et la nature de l`esprit humain lui-même?Lire la suite

Une autre caractéristique intéressante de RBMs est qu`ils sont « constructif », ce qui signifie qu`ils peuvent peuvent également fonctionner en sens inverse, en remontant à partir d`une fonction de haut niveau pour créer des entrées imaginaires contenant cette fonction. Ce processus est appelé « rêver ».

Alors pourquoi est-ce utile pour l`apprentissage en profondeur? Eh bien, Boltzman machines ont de graves problèmes de mise à l`échelle - plus vous essayez de les faire, plus il faut pour former le réseau.

L`idée clé des réseaux de croyance profonde est que vous pouvez empiler de RBM deux couches ensemble, chacun formés pour trouver la structure dans la sortie de son prédécesseur. C`est rapide et conduit à un réseau qui peut comprendre les caractéristiques complexes, abstraites des données.

Dans une tâche de reconnaissance d`image, la première couche peut apprendre à voir les lignes et les angles, et la deuxième couche peut apprendre à voir les combinaisons de ces lignes qui composent les caractéristiques comme les yeux et le nez. La troisième couche peut combiner ces caractéristiques et apprendre à reconnaître un visage. En tournant ce réseau vers l`arrière-propagation, vous pouvez affiner uniquement sur les caractéristiques qui se rapportent aux catégories qui vous intéressent.

c`est beaucoup de façons, une solution simple à rétropropagation: il permet backprop « tricher » en le démarrant avec un tas d`informations sur le problème, il essaie de résoudre. Cela aide le réseau à atteindre de meilleurs minima, et il veille à ce que les niveaux les plus bas du réseau sont formés et faire quelque chose d`utile. C`est tout.

D`autre part, les méthodes d`apprentissage en profondeur ont produit des améliorations spectaculaires de la vitesse d`apprentissage de la machine et la précision, et sont presque à lui seul responsable de l`amélioration rapide de la parole à un logiciel de texte au cours des dernières années.

Course pour Canny Ordinateurs

Vous pouvez voir pourquoi tout cela est utile. Plus vous pouvez construire des réseaux, les plus grands et plus les concepts abstraits que le réseau peut apprendre.

Vous voulez savoir si oui ou non un e-mail est un spam? Pour les spammeurs intelligents, c`est difficile. Vous devez vraiment lire l`e-mail, et comprendre une partie de l`intention sous-jacente - essayer de voir s`il y a une relation entre l`émetteur et le récepteur, et d`en déduire les intentions du récepteur. Vous devez faire tout ce qui repose sur des chaînes incolores de lettres, dont la plupart sont des concepts et des événements décrivaient que l`ordinateur sait rien.

C`est beaucoup demander à tout le monde.

Si on vous demandait d`apprendre à identifier le spam dans une langue que vous ne l`avez pas déjà parlé, ne contenait que quelques exemples positifs et négatifs, vous feriez très mal - et vous avez un cerveau humain. Pour un ordinateur, le problème a été presque impossible, jusqu`à très récemment. Voilà le genre d`idées qui peuvent avoir l`apprentissage en profondeur, et il va être incroyablement puissant.

En ce moment, gagner cette course de Microsoft par un cheveu. À long terme? Il est de deviner qui que ce soit.