Implementación de un sistema ETL para la adquisición y transferencia de datos de radar
| dc.contributor.advisor | Perdomo Charry, César Andrey | |
| dc.contributor.author | Rodríguez Daza, Nicolás | |
| dc.contributor.orcid | Perdomo Charry, César Andrey [0000-0001-7310-4618] | |
| dc.creator.email | nicolasrd1808@gmail.com | |
| dc.creator.id | 20221495010 | |
| dc.date.accessioned | 2026-09-10T18:08:53Z | |
| dc.date.available | 2026-09-10T18:08:53Z | |
| dc.date.created | 2026-07-01 | |
| dc.description | El proyecto presenta RadarETL, una solución de código abierto y modular desplegada en contenedores Docker para automatizar la extracción de datos de radar meteorológico del IDEAM en AWS S3, transformar los archivos propietarios IRIS al estándar NetCDF4 mediante xradar/xarray y almacenar sus metadatos en una base de datos geoespacial PostgreSQL/PostGIS. Esta arquitectura resuelve la barrera técnica de procesamiento manual e indexación que limitaba el acceso a la información de las seis estaciones del IDEAM en Colombia, reduciendo significativamente el tiempo de procesamiento incremental (5–30 segundos por archivo), garantizando la integridad científica de los datos y habilitando consultas espaciales subsegundo para aplicaciones de gestión del riesgo, agricultura e investigación. | |
| dc.description.abstract | This work introduces RadarETL, an open-source, containerized, and modular ETL system designed to automate the extraction of IDEAM's weather radar data from AWS S3 repositories, transform proprietary IRIS files into the standardized NetCDF4 format using xradar/xarray, and load extracted metadata into a PostgreSQL/PostGIS geospatial database. By addressing the technical barriers of manual processing and lack of systematic indexing across Colombia's six operational radar stations, the system significantly reduces execution time for incremental processing (5–30 seconds per file), ensures scientific data integrity, and enables sub-second spatial queries for disaster risk management, agriculture, and atmospheric research. | |
| dc.format.mimetype | ||
| dc.identifier.uri | http://hdl.handle.net/11349/103664 | |
| dc.language.iso | spa | |
| dc.publisher | Universidad Distrital Francisco José de Caldas | |
| dc.relation.references | Amazon Web Services. (2024). Amazon Simple Storage Service (S3) — Developer Guide. https: //docs.aws.amazon.com/AmazonS3/latest/userguide/Welcome.html | |
| dc.relation.references | Boettiger, C. (2015). An introduction to Docker for reproducible research, with examples from the R environment. ACM SIGOPS Operating Systems Review, 49(1), 71-79. https://doi.org/10. 1145/2723872.2723882 | |
| dc.relation.references | Bringi, V. N., & Chandrasekar, V. (2001). Polarimetric Doppler Weather Radar: Principles and Applications. Cambridge University Press. | |
| dc.relation.references | Fabry, F. (2015). Radar Meteorology: Principles and Practice. Cambridge University Press. https: //doi.org/10.1017/CBO9781107707405 | |
| dc.relation.references | Grover, M., Mühlbauer, K., Goudenhoofdt, E., Syed, H. A., Ladino, A., Jackson, R., & Wolfensberger, D. (2025). openradar/xradar: xradar v0.9.0. Zenodo. https://doi.org/10.5281/zenodo. xradar090 | |
| dc.relation.references | Helmus, J. J., & Collis, S. M. (2016). The Python ARM Radar Toolkit (Py-ART), a library for working with weather radar data in the Python programming language. Journal of Open Research Software, 4(1), e25. https://doi.org/10.5334/jors.119 | |
| dc.relation.references | Hoyer, S., & Hamman, J. (2017). xarray: N-D labeled Arrays and Datasets in Python. Journal of Open Research Software, 5(1), 10. https://doi.org/10.5334/jors.148 | |
| dc.relation.references | Inmon, W. H. (2005). Building the Data Warehouse (4.a ed.). Wiley Publishing. | |
| dc.relation.references | Instituto de Hidrología, Meteorología y Estudios Ambientales (IDEAM). (2023, diciembre). Abriendo los archivos de radar meteorológico colombiano en AWS S3 (inf. téc.). IDEAM. http:// www.pronosticosyalertas.gov.co/documents/78690/112207077/AWS_RADARESCOL.pdf | |
| dc.relation.references | Instituto de Hidrología, Meteorología y Estudios Ambientales (IDEAM). (2024). Red de Radares Meteorológicos de Colombia — Productos e Información. http://www.ideam.gov.co/web/ tiempo-y-clima/radares-meteorologicos | |
| dc.relation.references | Kommareddy, R. (2025). Architecture of a real-time ETL system for dynamic data ingestion and transformation. International Journal of Research and Analytical Reviews, 12. | |
| dc.relation.references | Ladino, A. (2023). Read and plot Sigmet files available on AWS using Xradar. https : / / docs . openradarscience.org/projects/xradar/ | |
| dc.relation.references | Merkel, D. (2014). Docker: Lightweight Linux containers for consistent development and deployment. Linux Journal, 2014(239), 2. | |
| dc.relation.references | MeteoSwiss. (2025). Data management: Architecture and data warehouse system. https://www. meteoswiss.admin.ch/weather/measurement-systems/data-management.html | |
| dc.relation.references | Ministerio de Ciencia, Tecnología e Innovación (Minciencias). (2025, junio). Colombia avanza hacia un ecosistema de ciencia abierto y confiable: datos al servicio del conocimiento. https://minciencias.gov.co/ | |
| dc.relation.references | PostGIS Development Team. (2024). PostGIS 3.4 Manual. https://postgis.net/docs/manual-3.4/ | |
| dc.relation.references | PostgreSQL Global Development Group. (2024). PostgreSQL 15 Documentation. https://www. postgresql.org/docs/15/ | |
| dc.relation.references | Rew, R., & Davis, G. (1990). NetCDF: an interface for scientific data access. IEEE Computer Graphics and Applications, 10(4), 76-82. https://doi.org/10.1109/38.56302 | |
| dc.relation.references | Saltikoff, E., et al. (2019). OPERA the Radar Project. Atmosphere, 10(6), 320. https://doi.org/10. 3390/atmos10060320 | |
| dc.relation.references | SQLAlchemy Authors. (2024). SQLAlchemy 2.0 Documentation — The Python SQL Toolkit and Object Relational Mapper. https://docs.sqlalchemy.org/en/20/ | |
| dc.rights.acceso | Abierto (Texto Completo) | |
| dc.rights.accessrights | OpenAccess | |
| dc.subject | Pipeline ETL | |
| dc.subject | Datos de radar meteorológico | |
| dc.subject | NetCDF4 | |
| dc.subject | Xradar | |
| dc.subject | Xarray | |
| dc.subject | Indexación geoespacial | |
| dc.subject | PostGIS | |
| dc.subject | IDEAM | |
| dc.subject | Ciencia abierta | |
| dc.subject | Docker | |
| dc.subject | AWS S3 | |
| dc.subject.keyword | ETL pipeline | |
| dc.subject.keyword | Weather radar data | |
| dc.subject.keyword | NetCDF4 | |
| dc.subject.keyword | Xradar | |
| dc.subject.keyword | Xarray | |
| dc.subject.keyword | Geospatial indexing | |
| dc.subject.keyword | PostGIS | |
| dc.subject.keyword | IDEAM | |
| dc.subject.keyword | Open science | |
| dc.subject.keyword | Docker | |
| dc.subject.keyword | AWS S3 | |
| dc.subject.lemb | Maestría en Ciencias de la Información y las Comunicaciones -- Tesis y disertaciones académicas | |
| dc.subject.lemb | Procesamiento de datos | |
| dc.subject.lemb | Sistemas ETL | |
| dc.subject.lemb | Radar meteorológico | |
| dc.subject.lemb | Bases de datos geoespaciales | |
| dc.subject.lemb | Datos meteorológicos | |
| dc.title | Implementación de un sistema ETL para la adquisición y transferencia de datos de radar | |
| dc.title.titleenglish | Implementation of an ETL system for radar data acquisition and transfer | |
| dc.type | masterThesis | |
| dc.type.coar | http://purl.org/coar/resource_type/c_bdcc | |
| dc.type.degree | Pasantía | |
| dc.type.driver | info:eu-repo/semantics/masterThesis |
Archivos
Bloque de licencias
1 - 1 de 1
Cargando...
- Nombre:
- license.txt
- Tamaño:
- 7 KB
- Formato:
- Item-specific license agreed upon to submission
- Descripción:
