INSEE et SIRENE... changements à venir

oui mais ce que dit @cquest c’est que le fichier de mise à jour quotidien ne serait lui plus disponible ?
ce qui est bizarre avec ce projet entreprise.data.gouv.fr c’est que l’Etat développe son API sirene en parallèle à l’INSEE. Je serais curieux de connaître le degré de concertation et collaboration entre les deux.

entreprise.data.gouv.fr c’est autre chose, une autre façon de diffuser les données SIRENE, voire provenant d’autres sources et cela s’appuie aussi sur les données INSEE diffusées dans le cadre du SPD.

L’ouverture de compte ne va pas du tout dans le sens de l’accès libre.
L’usage d’un token (à renouveler) alourdit l’accès, mais peut se comprendre dès lors qu’on passe sur une API et donc des ressources en CPU et pas uniquement en bande passante.

Ce type de changement important dans le mode de diffusion des données du SPD pose un sérieux problème car ce ne sont plus “des données sur lesquelles vous pouvez compter”, slogan affiché du SPD à son ouverture.
La stabilité est nécessaire pour que les réutilisateurs, qu’ils soient privés ou publics, n’aient pas à revoir trop régulièrement le fonctionnement de leur système d’information.

Là, clairement et malheureusement, ce n’est pas le souci de l’INSEE qui va semble-t-il aussi changer le contenu des fichiers mensuels, mais qui n’a publié aucune documentation ou fichier d’exemple pour que l’on puisse anticiper ces changements sans clairement communiquer sur les dates des changements.

Même quand il est respecté, le delais de 3 mois prévus par le décret est déjà très court pour s’adapter vu la lourdeur de beaucoup de systèmes d’information rarement agiles !

Je ne peux que souscrire aux propos de Christian…le changement de périmètre d’une base issue du SPD remet en question la pérennité de l’ensemble des données issues du SPD…

1 Like

En attendant… la version géocodée du dernier stock (à fin août) est dispo sur http://data.cquest.org/geo_sirene/last/

On verra demain ce qu’il en est pour les mises à jour.

Voilà une réponse qui devrait suffire à convaincre quiconque de ne plus parler de “l’Etat” ou de “l’administration” comme un monolithe :slight_smile:

J’espère que ces divergences de stratégie ne sont pas une conséquence directe des rumeurs qui circulent

Je viens de recevoir le mail suivant de l’INSEE (le gras est de mon fait) :

Bonjour,

Vous avez souscrit à l’API Sirene sur le catalogue des API de l’Insee.

Nous vous informons qu’une nouvelle version (version 3.4) sera mise en ligne d’ici mi-septembre.

Cette nouvelle version ne comporte pas d’évolution sur les fonctionnalités d’API Sirene. Elle prépare uniquement la mise en ligne sur data.gouv.fr des fichiers contenant les données diffusées par API Sirene.

Nous restons à votre disposition pour toutes précisions, vous pouvez nous contacter via le formulaire de contact du catalogue, onglet contact (https://api.insee.fr/catalogue/site/themes/wso2/subthemes/insee/pages/help.jag).

L’équipe de diffusion Sirene

À voir de quels fichiers ils parlent, ce serait bien que le delta quotidien soit publié sur datagouvfr.

1 Like

L’INSEE a publié le stock de la base SIRENE à fin septembre selon le nouveau format de diffusion téléchargeable (CSV). Par contre, plus de CSV de mise à jour quotidiens :frowning:
Les fichiers au format actuel (stock et mise à jour) seront publié jusque fin janvier 2019.

Voir ici: https://www.data.gouv.fr/fr/datasets/5b7ffc618b4c4169d30727e0/

J’ai mis à jour mes scripts de géocodage pour en faire une version géocodée, qui est disponible sur http://data.cquest.org/geo_sirene/v2019/AAAA-MM/

Quoi de neuf ?

Seul le fichier StockEtablissement est traité, vu que c’est le seul fichier parmis les 4 diffusés par l’INSEE qui contient des adresses.

Les changements:

  • les fichiers départementaux sont désormais compressés en gzip (plus de 7z)
  • le stock national est disponible pour les établissements Actifs et pour l’ensemble des établissements (Actifs ou Fermés)
  • un traitement supplémentaire prends en compte les anciennes communes qui n’existent plus (fusions) et leur fait correspondre le code INSEE actuel afin de permettre le géocodage. Certaines “adresses” ne sont plus géocodables (ex: “GALERIE MARCHANDE MAMMOUTH” vu que le dernier Mammouth a fermé en 2009)

Fichiers générés:

  • StockEtablissement_geo.csv.gz : fichier national complet (29 millions)
  • StockEtablissementActif_geo.csv.gz : fichier national des établissements Actifs (11 millions)
  • geo_siret_DDD.csv.gz : stock complet pour un département (et découpé par arrondissements de Paris)
  • communes/{codeINSEEcommune}.csv : stock complet pour une commune
  • logs.tgz : logs complet de géocodage (un fichier par département)
  • stats.json : statistiques finales du géocodage par département

N’hésitez pas à me signaler toute anomalie, ça sent encore un peu la peinture fraîche même si la partie géocodage est très proche de ce qui a été fait jusqu’à maintenant.

Je me permets d’en profiter pour reposer la question :wink:
Ce nouveau stock contient-il toutes les lignes ? Ou les entreprises ayant coché la case “ne pas partager les informations personnelles” sont toujours entièrement retirées du fichier plutôt qu’avec les colonnes correspondantes vides?

Il manque toujours des lignes… plutôt que des colonnes :frowning:

Vu qu’il y a pas mal de réutilisateurs de la version géocodée de la base SIRENE, j’ai tenté de regénérer les fichiers de stock CSV format 2017 à partir des nouveaux stocks (2019).

C’est “retrosirene” et c’est sur https://github.com/cquest/retrosirene

Le premiers fichiers “beta” issus de cette moulinette sont disponibles sur http://data.cquest.org/geo_sirene/beta/

N’hésitez pas à me remonter des anomalies, il y en a forcément !

1 Like

Comme l’INSEE va stopper fin janvier la diffusion de fichiers téléchargeables permettant de maintenir à jour une copie de la base SIRENE, je teste la génération de ces fichiers quotidiens à partir de données extraites depuis leur API.
Ces fichiers ne sont pas géocodés, c’est l’étape suivante à laquelle je vais m’attaquer.

http://data.cquest.org/geo_sirene/v2019/quotidien/

Pour chaque jour, 3 fichiers sont pour l’instant générés:

  • un json qui contient l’ensemble des unités légales et établissements avec tout leur historique
  • un CSV des unités légales (mêmes colonnes que les CSV de stock mensuels publiés par l’INSEE sur data.gouv)
  • un CSV des établissements (mêmes colonnes que les CSV de stock mensuels là aussi)

Exemple:

  • 2018-10-22-sirene.json.gz (unités légales et établissements en json)
  • 2018-10-22-siren.csv.gz (unités légales en CSV)
  • 2018-10-22-siret.csv.gz (établissements en CSV)

Pour conserver un stock mensuel à jour, il suffit d’intégrer par date croissante ces fichiers.

Merci d’avance pour vos retours, l’idée étant de pérenniser tout ça.

J’attends le prochain stock début novembre pour valider que la mise à jour via cette voie est bien complète…

Les scripts utilisés sont là : https://github.com/cquest/geocodage-spd/tree/master/insee-sirene/apiv3

1 Like

Bon, petit bilan sur les fichiers de mise à jour pour SIRENE v2019… c’est pas vraiment ça :frowning:

J’ai comparé les stocks d’octobre et novembre et les mises à jour quotidiennes récupérées via l’API par mes scripts quotidiens laissent des “trous”. Le problème n’est pas très clair, peut être lié à des effets de bord sur les dates de dernier traitement, potentiellement antidatées.

Je tente donc de ratisser plus large en récupérant les entreprises et établissements sur une fenêtre glissante d’un mois… et il faut attendre le stock de décembre pour savoir si c’est ok. :frowning:

1 Like

Bonjour,

quelles sont les delta ?
Plus de maj par l’API qu’entre les fichiers mensuels ou inversement ?
Coté établissement ? Unité légale ?

Pour ma part j’ai constaté dans les fichiers mensuels des fausses différences qui ne portent que sur la date de maj. Selon l’INSEE c’est du à des mises à jour d’informations non publiées mais qui impactent tout de même la date de MAJ.

Bonjour, je suis nouvel utilisateur de l’API Sirene.

Je suis embarrassé car j’ai deux endpoint API différents :

Le 2ème utilise sans doute les données du premier.

Mais je constate des différences notables :

  • INSEE exige un token et pas l’autre
  • INSEE limite à 30 requêtes par minute et l’autre 7 requêtes par seconde…

Que me conseillez-vous ?
Merci

L’API proposée par l’INSEE est très complète et permet des requêtes complexes. C’est pour cela qu’il y a un token et une limite assez basse d’usage (lié au token).

Celle proposée par data.gouv est plus simple et légère donc moins limitée en usage (7 req/s = 420/min au lieu de 30) qui se fait en plus sans token.

Ensuite il y a la disponibilité… et historiquement data.gouv est plus stable. De plus, on peut se la déployer localement si jamais on veut devenir autonome, ce qui peut être utile en cas de très fort usage critique. La transition n’en sera que plus simple.

A relire…

1 Like

@cquest: merci pour vos informations, notamment sur la disponibilité (qui n’est pas une donnée qu’on trouve facilement).

Je vais étudier les API de gouv.fr pour voir si elles correspondent à nos besoins.

Bonjour à tous.tes,

Est-ce que quelqu’un.e aurait déjà travaillé sur une jointure entre données Sirene et code NAF + libellé ? Il semblerait que les libellés n’apparaissent pas dans les données stock : https://www.sirene.fr/sirene/public/variable/nomenclatureActivitePrincipaleEtablissement

Bonjour @CecileLG
Nous y avons travaillé et proposons ici un dataset avec jointures. Est-ce cela dont vous avez besoin ?

3 Likes

Bonjour @jean-marc.lazard, absolument, je vais vérifier si ça correspond bien, mais à priori c’est ça qu’on cherchait, merci ! Merci pour la doc aussi, je me posais justement la question des mises à jour des valeurs du NAF (variable : activitePrincipaleUniteLegale) et je vois que vous y avez répondu, et que le référentiel est plutôt rarement mis à jour. (1992 / 2002 / 2007 / 2008)

Merci !

Parfait. A votre dispo si vous identifiez des besoins auxquels ce fichier ne répondrait pas, nous regarderons si possible de le faire évoluer.

1 Like