Introducción
Introduction to Syncloud
Introduccion
Syncloud es el servidor central de sync, es decir, el lugar donde se almacena y gestiona los información de todo el sistema. Por ahora comenzaremos con solo un servidor en AWS. Desde syncloud se gestiona todo el sistema:
-
Creación de aplicaciones: Crear y configurar aplicaciones, definiendo máquinas, clases de eventos y conectores.
-
Gestión de usuarios y permisos: Sistema de gestión de identidad y acceso (IAM) para crear usuarios y roles, asignar permisos a nivel de organización y aplicación, y controlar acceso a APIs.
-
Configuración de conectores: Configurar conectores de origen y destino, incluyendo parámetros de conexión, mapeos de datos y políticas de procesamiento. Las configuraciones se descargan como archivos YAML para SynConnect.
-
Distribución de software: Descarga de programas y configuración para ejecutar SynConnect localmente. Incluye imágenes Docker, binarios para diferentes plataformas, archivos YAML y scripts de instalación.
-
Visualización de datos: Interfaz web para visualizar eventos, alarmas y datos procesados en tablas y logs.
-
Preparación de datasets: Herramientas para preparar y exportar datasets para análisis y machine learning, en formatos estándar como CSV, H5, etc.
Almacenamiento de Datos
Syncloud almacena las streams en dos formatos:
- Como streams sin procesar, para poder servir como materia prima en caso de reprocesamiento, y como backup por eventuales fallos.
- Como tablas en una base de datos relacional, la misma puede ser consultada utilizando SQL.
Por otro lado, la configuración y metadata de las aplicaciones es almacenada como documento privado, solo se podrá acceder a la misma utilizando la interfaz web, o descargándola en formato JSON/YAML.