[MISE À JOUR IMPORTANTE] Mise à jour de l'arborescence du Datamart du SMC // [IMPORTANT UPDATE] MSC Datamart tree structure update
by Announcement list for the MSC-Datamart. Liste d'information pour le Datamart du SMC
(English follows)
Chers usagers du Datamart du SMC,
En décembre dernier, un changement important dans la structure de répertoires du Datamart du SMC<https://dd.meteo.gc.ca/> a été mis en place. La structure de répertoires statiques a été remplacée par une structure dynamique par date à la racine, où les répertoires sont automatiquement créés dès que les données sont générées opérationnellement et disponibles pour être hébergées sur le serveur HTTPS. De la sorte, tous les jeux de données ont la même période de rétention de plusieurs semaines (environ 30 jours), et la gestion de nos infrastructures et de nos services de données s'en trouve améliorée.
Les liens dynamiques qui ont été installés afin d'aider nos usagers dans cette migration ne seront pas retirés en juin 2025, tel qu'annoncé<https://comm.collab.science.gc.ca/mailman3/hyperkitty/list/dd_info@comm.c...>, mais plutôt fin septembre 2025 (date exacte à venir).
Aussi, et pour limiter l'impact de ce changement important, le répertoire /today<https://dd.meteo.gc.ca/today/> actuel qui pointe vers la structure sans date et qui donne accès à tous les jeux de données (temps réel, climat, listes de stations, etc.) va demeurer disponible. Ainsi, en utilisant l'URL : https://dd.meteo.gc.ca/today/ l'usager va retrouver exactement la structure du Datamart du SMC telle qu'elle existait avant la migration dynamique.
La même structure sera aussi appliquée au serveur HPFX Collab<https://hpfx.collab.science.gc.ca/>.
J'en profite pour rappeler à tous les usagers du service AMQP<https://eccc-msc.github.io/open-data/msc-datamart/amqp_fr/>, recommandé fortement pour accéder aux données du Datamart du SMC, qu'un ajustement au fichier de configuration demeure nécessaire. En raison de la modification de la structure des répertoires, le sujet/sous-sujet (topic/subtopic) des messages AMQP publiés sur dd.meteo.gc.ca change également. Les utilisateurs de Sarracenia doivent dorénavant ajouter le préfixe *.WXO-DD. à leurs sous-sujets (subtopic).
Par exemple, le sous-sujet (subtopic) : « bulletins.alphanumeric.# » doit être modifié en sous-sujet (subtopic) : « *.WXO-DD.bulletins.alphanumeric.#. »
Finalement, notez que le serveur DD-Alpha<http://dd.alpha.meteo.gc.ca/>, le site Web d'essai de données du Datamart du SMC, n'est pas impacté par ce changement.
Je vous invite fortement à migrer dès maintenant vers cette nouvelle architecture. Merci de me contacter pour toute question, il me fera plaisir de vous aider.
Cordialement,
Sandrine
=====================
Dear MSC Datamart users,
Last December, a significant change in the directory structure of the MSC Datamart<https://dd.weather.gc.ca/> was implemented. The static directory structure has been replaced by a dynamic structure organized by date at the root, where directories are automatically created as soon as data is generated operationally and available to be hosted on the HTTPS server. This ensures that all datasets have the same retention period of several weeks (approximately 30 days), improving the management of our infrastructure and data services.
The dynamic links that were installed to help our users with this migration will not be removed in June 2025, as previously announced, but rather at the end of September 2025 (exact date to be confirmed).
Also, to limit the impact of this significant change, the current /today<https://dd.weather.gc.ca/today/> directory, which points to the undated structure and provides access to all datasets (real-time, climate, station lists, etc.), will remain available. Thus, by using the URL: https://dd.weather.gc.ca/today/ , users will find exactly the same structure as the MSC Datamart before the dynamic migration.
The same structure will also be applied to the HPFX Collab<https://hpfx.collab.science.gc.ca/> server.
I would like to take this opportunity to remind all users of the AMQP service<https://eccc-msc.github.io/open-data/msc-datamart/amqp_en/>, which is strongly recommended for accessing MSC Datamart data, that an adjustment to the configuration file is still necessary. Due to the change in the directory structure, the topic/subtopic of AMQP messages published on dd.weather.gc.ca is also changing. Sarracenia users must now add the prefix *.WXO-DD. to their subtopics (subtopic).
For example, the subtopic: "bulletins.alphanumeric.#" must be changed to the subtopic: "*.WXO-DD.bulletins.alphanumeric.#."
Finally, please note that the DD-Alpha<https://dd.alpha.weather.gc.ca/> server, the MSC Datamart testing data repository, is not affected by this change.
I strongly encourage you to migrate to this new architecture as soon as possible. Please contact me if you have any questions. I will be happy to help.
Best regards,
Sandrine
--------
Sandrine Edouard
Responsable d'unité, Intendance des données et accès aux données ouvertes du SMC
Direction des Opérations du Centre canadien de prévision météorologique et environnementale
Environnement et Changement climatique Canada, Gouvernement du Canada
ec.dps-client.ec(a)canada.ca<mailto:ec.dps-client.ec@canada.ca> / Tél (M365) : 1-438-801 0700
Liste de diffusion dd_info : https://comm.collab.science.gc.ca/mailman3/postorius/lists/dd_info
Votre avis nous intéresse<https://eccc.sondage-survey.ca/f/s.aspx?s=42af4a30-525a-4514-8905-21c027a...>
Unit Manager, Data Stewardship and MSC Open Data Access
Canadian Centre for Meteorological and Environmental Prediction Operations
Environment and Climate Change Canada, Government of Canada
ec.dps-client.ec(a)canada.ca<mailto:ec.dps-client.ec@canada.ca> / Phone (M365): 1-438-801 0700
dd_info mailing list: https://comm.collab.science.gc.ca/mailman3/postorius/lists/dd_info
Your opinion matters to us<https://eccc.sondage-survey.ca/f/s.aspx?s=42af4a30-525a-4514-8905-21c027a...>
[cid:image001.png@01DB65AC.5F2AEAB0]