SlideShare uma empresa Scribd logo
1 de 26
Baixar para ler offline
| © 2021
IDC Data Monetization & Integration - 12.May.2021
Virtualização de Dados
como Estratégia de
Gestão de Dados para
Advanced Analytics
João Caldeira,
Center of Excellence Business Manager, Keyrus
joao.caldeira@keyrus.com
| 2 |
A vida de um Data Scientist
Desafíos
1. Encontrar os dados adequados
2. Ter acesso aos dados (envolve ter credenciais)
3. Transformar os dados num formato utilizável
4. Combinar dados provenientes de múltiplas fontes
5. Limpar os dados e/ou eliminar registos incompletos
6. …..
7. …..
Source: Anaconda, State of Data Science Report, 2020
| 3 |
Enquadrar o
Problema
Preparação e
Anotação dos
Dados
Ingestão e Gestão
dos Dados
Particionar os
Dados
Análise
Exploratória
Engenharia de
“Features”
Modelação
Otimização de
Modelos
Avaliação e Seleção
Análise de Risco e
Cumprimento de
Regras
Desenvolver
Software
Implementação Consumo de APIs Manutenção de
Modelos
Detestam fazer
Necessitam informação do domínio vinda de terceiros
Frequentemente usam metodologias erradas
Gostam e querem continuar a fazer
A vida de um Data Scientist
Desafíos
Manual, Demorado e Repetitivo
| 4 |
Problema
66%
Source: Anaconda, State of Data Science Report, 2020
1. Processo manual
2. Propício a erros
3. Entediante
4. Baixo valor acrescentado
5. 66% do tempo é passado nestas tarefas
6. …..
| 5 |
Top Trends in Data and Analytics for 2021: Data Fabric Is the Foundation
Integração de dados (49%) e preparação de dados
(37%) estão no top três das tecnologias que as
organizações querem automatizar até ao final de 2022.
| 6 |
O Passado
Data Warehouse Data Lake
Criado em 1992 Criado em 2008
| 7 |
Albert Einstein
Não podemos resolver os nossos
problemas de hoje com as mesmas
ideias que usávamos quando eles
foram criados.
| 8 |
O Futuro
Data Lake Virtual Data
Criado em 1992
Criado em 2008
| 9 |
Gartner Data Virtualization Market Guide, Dec 2018
Até 2022, 60% de todas as organizações implementarão a
virtualização de dados como uma componente
fundamental na sua arquitetura de integração de dados.
| 10 |
Capacidades essenciais da Virtualização de Dados
• Abstração de Dados: Desacoplando
aplicações/utilização dos dados das
fontes de dados
• Integração de Dados sem replicação
ou relocalização de dados físicos
• Fácil acesso a qualquer dado, em
tempo real, no momento certo com
alto rendimento
• Catálogo de Dados para fácil
descoberta em modo self-service
de serviços de dados
• Metadados unificados, segurança
& governança sobre todos os
dados, suportando o RGPD
• Partilha de Dados em qualquer
formato, com mecanismos
inteligentes de otimização de
pesquisa, aprofundando as
funcionalidade das plataformas
novas e existentes
Uma camada lógica de dados – um “tecido de dados” – que fornece alta-performance, em tempo real
e de acesso seguro à integração das vistas de negócio sobre dados empresariais distribuídos
| 11 |
2 tendências em arquiteturas modernas de dados
Tendências
Virtual Data
Fabric
Virtual Data
Mesh
Data
Virtualization
Platform
Tecnologia
| 12 |
Virtual Data Fabric
| 13 |
How to Get more from Your Data in 2020, Jan 2020
Uma arquitetura data fabric é projetada para consumir
dados históricos e atuais, dispersos em vários silos para
produzir uma visão única dos dados que faça sentido
para o negócio.
| 14 |
Virtual Data Fabric
Virtual Data Fabric
Data
Science
Machine
Learning
Inteligência
Artificial
Aplicativos
Móveis
Análises
Preditivas
Business
Intelligence
Relational NoSQL Desestruturado Docs Nuvem Sensores IoT
Dados Unificados Segurança
Camada de abstração
Acesso Universal
Auto-serviço
Catálogo de Dados
| 15 |
Virtual Data Mesh
| 16 |
Should Your Application Consider Data Mesh Connectivity? May 2020
… data mesh permite que as fontes de dados
permaneçam distribuídas e controladas por
diferentes organizações, mas acessíveis a uma
aplicação centralizada.
| 17 |
Virtual Data Mesh
Virtual Data Mesh Auto-serviço
Catálogo de Dados
Data Domains
Data
Science
Machine
Learning
Inteligência
Artificial
Aplicativos
Móveis
Análises
Preditivas
Business
Intelligence
Dados Unificados Segurança
Camada de abstração
Acesso Universal
| 18 |
A Clear Multicloud Strategy Delivers Business Value, Apr 2018
CIOs enfrentam o desafio de Multi-Nuvem e de
desenvolver uma estratégia eficaz para entender e
gerir a mistura de recursos em nuvem sobre os quais
os seus negócios dependem.
| 19 |
Multi-Cloud Challenges
On-prem
Data Center
| 20 |
Multi-Cloud Data Mesh
Multi Cloud Data Mesh Auto-serviço
Catálogo de Dados
Dados on
Premisse
Data
Science
Machine
Learning
Inteligência
Artificial
Aplicativos
Móveis
Análises
Preditivas
Business
Intelligence
Dados Unificados Segurança
Camada de abstração
Acesso Universal
Dados em
Nuvem
Dados em
Nuvem
Dados em
Nuvem
| 21 |
Logical Data Fabric
Logical Data Fabric
Data
Science
Machine
Learning
Artificial
Intelligence
Mobile
Applications
Predictive
Analytics
Business
Intelligence
Unified Data Security
Abstraction Layer
Universal Access
Oracle Cloudera
Snowflake Webservice
$
| 22 |
Benefícios
1. Integrar dados de diferentes sistemas fonte sem os mover
2. Uma “linguagem” única de agregação de dados
3. Acesso aos dados em tempo real
4. Transformar dados a pedido
5. Partilha de especificações
6. Ter dados em cache se for necessário
7. Usar os benefícios dos metadados
8. Mais tempo para a componente analítica
Problema Solução Resultados
Case Study
| 23 |
A DNB utiliza a plataforma Denodo para criar um
laboratório de Data Science na núvem
▪ Não possuir um laboratório de Data Science escalável
para laborar em casos de uso suportados por anallitica
avançada, tal como preço personalizado, recomendação
de produtos otimizada, etc.
▪ Os Data Scientists ocupavam demasiado tempo em
tarefas de preparação de dados o que lhes deixava pouco
tempo para a criação de modelos.
▪ A DNB tentava há algum tempo, sem grande sucesso,
arquitetar a plataforma adequada que pudesse obter
dados de várias fontes, incluindo, múltiplas data
warehouses, bases de dados transacionais, data lakes ,
etc e que de uma forma simplificada pudesse ajudar nas
iniciativas de Data Science.
• A solução Denodo atuou como um aglutinador que
conectou em tempo real as várias fontes de dados
da DNB’s, incluindo os seus data warehouses on-
prem, os data lakes na AWS que guardam os dados
transacionais e uma instância Cloudera que suporta
a solução de ClickStreaming.
• O catálogo de dados da Denodo geriu e facilitou o
acesso aos metadados, o que permitiu aos Data
Scientists rapidamente pesquisar os dados e
descobrir os data sets disponíveis.
• A plataforma Denodo permitiu a equipa de Data
Science da DNB focar-se na sua área fundamental de
atividade - criação de modelos - no lugar de tarefas
de preparação de dados.
• A plataforma Denodo funcionou como um
agregador que interligou as mais variadas fontes de
dados, sejam on-prem ou na nuvem, e tornou
possível e fácil para a DNB desenvolver
eficientemente as suas atividades de analítica
avançada.
DNB ASA é o maior grupo financeiro Norueguês combinando bens de mais de 1.9 triliões (NOK) e
com uma capitalização de mercado de 185 biliões (USD) (2016). Os escritórios principais da DNB’s
estão localizados em Oslo.
| 24 |
Gestão de Dados
Liderança
| 25 |
YOUR DATA …… OUR PASSION !
A Keyrus
25 3.200+ 261M 21 50+ 5.000+
anos
de experiência
pessoas EUR
2020
paises
diferentes
nacionalidades clientes
MAKING DATA MATTER
Keyrus é uma empresa de consultoria especialista
em analytics e transformação digital focada em
ajudá-lo a tirar o máximo partido dos seus dados
ENTREGAMOS SOLUÇÕES
Para fazer evoluir o seu negócio transformando dados
em insights e valor.
Obrigado!
João Caldeira
joao.caldeira@keyrus.com
Se quiser ver uma demo ou saber mais sobre a
virtualização de dados, todos os benefícios e como
melhorar o seu negócio, visite-nos no nosso stand virtual.
Até breve!

Mais conteúdo relacionado

Mais procurados

Wiseminer Self-Service Data Analytics
Wiseminer Self-Service Data AnalyticsWiseminer Self-Service Data Analytics
Wiseminer Self-Service Data AnalyticsLeonardo Couto
 
Cloud tendências 2018
Cloud tendências 2018Cloud tendências 2018
Cloud tendências 2018everis
 
Qualicorp Scales to Millions of Customers and Data Relationships to Provide W...
Qualicorp Scales to Millions of Customers and Data Relationships to Provide W...Qualicorp Scales to Millions of Customers and Data Relationships to Provide W...
Qualicorp Scales to Millions of Customers and Data Relationships to Provide W...Neo4j
 
Hadoop Day - MeetUp - O poder da Informação
Hadoop Day - MeetUp - O poder da InformaçãoHadoop Day - MeetUp - O poder da Informação
Hadoop Day - MeetUp - O poder da InformaçãoThiago Santiago
 
Hackathon Inmetrics e Fiap: Desafios do Big Data
Hackathon Inmetrics e Fiap: Desafios do Big DataHackathon Inmetrics e Fiap: Desafios do Big Data
Hackathon Inmetrics e Fiap: Desafios do Big Datainmetrics
 
Kimball Vs Inmon
Kimball Vs InmonKimball Vs Inmon
Kimball Vs Inmonguest2308b5
 
24HoP 2013 - Por Onde Começar no BigData
24HoP 2013 - Por Onde Começar no BigData24HoP 2013 - Por Onde Começar no BigData
24HoP 2013 - Por Onde Começar no BigDataDiego Nogare
 
LightBase Portal
LightBase PortalLightBase Portal
LightBase PortalLuizm
 
Ti verde seu proximo datacenter pode ser um container
Ti verde  seu proximo datacenter pode ser um containerTi verde  seu proximo datacenter pode ser um container
Ti verde seu proximo datacenter pode ser um containerFabio Hara
 
Software as a Service
Software as a ServiceSoftware as a Service
Software as a ServiceDenis Vieira
 
DataLab corporate presentation
DataLab corporate presentationDataLab corporate presentation
DataLab corporate presentationCarlos Guerreiro
 
SQLSat 253 - Por Onde Começar no BigData
SQLSat 253 - Por Onde Começar no BigDataSQLSat 253 - Por Onde Começar no BigData
SQLSat 253 - Por Onde Começar no BigDataDiego Nogare
 

Mais procurados (19)

Wiseminer Self-Service Data Analytics
Wiseminer Self-Service Data AnalyticsWiseminer Self-Service Data Analytics
Wiseminer Self-Service Data Analytics
 
Cloud tendências 2018
Cloud tendências 2018Cloud tendências 2018
Cloud tendências 2018
 
Qualicorp Scales to Millions of Customers and Data Relationships to Provide W...
Qualicorp Scales to Millions of Customers and Data Relationships to Provide W...Qualicorp Scales to Millions of Customers and Data Relationships to Provide W...
Qualicorp Scales to Millions of Customers and Data Relationships to Provide W...
 
Microsoft PowerBI
Microsoft PowerBIMicrosoft PowerBI
Microsoft PowerBI
 
Hadoop Day - MeetUp - O poder da Informação
Hadoop Day - MeetUp - O poder da InformaçãoHadoop Day - MeetUp - O poder da Informação
Hadoop Day - MeetUp - O poder da Informação
 
Palantir
PalantirPalantir
Palantir
 
Hackathon Inmetrics e Fiap: Desafios do Big Data
Hackathon Inmetrics e Fiap: Desafios do Big DataHackathon Inmetrics e Fiap: Desafios do Big Data
Hackathon Inmetrics e Fiap: Desafios do Big Data
 
Kimball Vs Inmon
Kimball Vs InmonKimball Vs Inmon
Kimball Vs Inmon
 
24HoP 2013 - Por Onde Começar no BigData
24HoP 2013 - Por Onde Começar no BigData24HoP 2013 - Por Onde Começar no BigData
24HoP 2013 - Por Onde Começar no BigData
 
LightBase Portal
LightBase PortalLightBase Portal
LightBase Portal
 
FLISOL 2017 - SQL Server no Linux
FLISOL 2017 - SQL Server no LinuxFLISOL 2017 - SQL Server no Linux
FLISOL 2017 - SQL Server no Linux
 
Ingestão de Dados
Ingestão de DadosIngestão de Dados
Ingestão de Dados
 
Ti verde seu proximo datacenter pode ser um container
Ti verde  seu proximo datacenter pode ser um containerTi verde  seu proximo datacenter pode ser um container
Ti verde seu proximo datacenter pode ser um container
 
Software as a Service
Software as a ServiceSoftware as a Service
Software as a Service
 
DataLab corporate presentation
DataLab corporate presentationDataLab corporate presentation
DataLab corporate presentation
 
Big data Workshop
Big data WorkshopBig data Workshop
Big data Workshop
 
SQLSat 253 - Por Onde Começar no BigData
SQLSat 253 - Por Onde Começar no BigDataSQLSat 253 - Por Onde Começar no BigData
SQLSat 253 - Por Onde Começar no BigData
 
Big Data na Nuvem
Big Data na NuvemBig Data na Nuvem
Big Data na Nuvem
 
BigData
BigDataBigData
BigData
 

Semelhante a IDC Portugal | Virtualização de Dados como Estratégia de Gestão de Dados para Advanced Analytics

DataOps, Data Mesh e Data Fabric. Melhores práticas para seu projeto de arqui...
DataOps, Data Mesh e Data Fabric. Melhores práticas para seu projeto de arqui...DataOps, Data Mesh e Data Fabric. Melhores práticas para seu projeto de arqui...
DataOps, Data Mesh e Data Fabric. Melhores práticas para seu projeto de arqui...Eduardo Hahn
 
Data Management Summit
Data Management SummitData Management Summit
Data Management SummitDenodo
 
Guia de compras - Microsoft Azure
Guia de compras - Microsoft AzureGuia de compras - Microsoft Azure
Guia de compras - Microsoft AzureRenato Grau
 
Big Data Analytics - Data Engineer, Arquitetura, AWS e Mais
Big Data Analytics - Data Engineer, Arquitetura, AWS e MaisBig Data Analytics - Data Engineer, Arquitetura, AWS e Mais
Big Data Analytics - Data Engineer, Arquitetura, AWS e MaisCicero Joasyo Mateus de Moura
 
Data Mesh: O que é e quais tecnologias facilitam sua implementação?
Data Mesh: O que é e quais tecnologias facilitam sua implementação?Data Mesh: O que é e quais tecnologias facilitam sua implementação?
Data Mesh: O que é e quais tecnologias facilitam sua implementação?Denodo
 
Data Management: 5 tendências para alcançar a mudança
Data Management: 5 tendências para alcançar a mudançaData Management: 5 tendências para alcançar a mudança
Data Management: 5 tendências para alcançar a mudançaDenodo
 
Teoria de Sistemas de Informação - Atividade: Tecnologia e SI
Teoria de Sistemas de Informação - Atividade: Tecnologia e SITeoria de Sistemas de Informação - Atividade: Tecnologia e SI
Teoria de Sistemas de Informação - Atividade: Tecnologia e SIAlessandro Almeida
 
Data Fabric e Chat GPT - Unindo forças para a verdadeira democratização no ac...
Data Fabric e Chat GPT - Unindo forças para a verdadeira democratização no ac...Data Fabric e Chat GPT - Unindo forças para a verdadeira democratização no ac...
Data Fabric e Chat GPT - Unindo forças para a verdadeira democratização no ac...Denodo
 
Qual é o futuro da estratégia de dados?
Qual é o futuro da estratégia de dados?Qual é o futuro da estratégia de dados?
Qual é o futuro da estratégia de dados?Denodo
 
AWS Data Immersion Webinar Week - Planeje e entenda como criar um repositório...
AWS Data Immersion Webinar Week - Planeje e entenda como criar um repositório...AWS Data Immersion Webinar Week - Planeje e entenda como criar um repositório...
AWS Data Immersion Webinar Week - Planeje e entenda como criar um repositório...Amazon Web Services LATAM
 
Apresentação Seeds to the Cloud - Igor Barreto e Thais Lino, dataRain.pptx
Apresentação Seeds to the Cloud - Igor Barreto e Thais Lino, dataRain.pptxApresentação Seeds to the Cloud - Igor Barreto e Thais Lino, dataRain.pptx
Apresentação Seeds to the Cloud - Igor Barreto e Thais Lino, dataRain.pptxdataRain
 
3a Web Aula - Gestão de Tecnologia da Informação.pdf
3a Web Aula - Gestão de Tecnologia da Informação.pdf3a Web Aula - Gestão de Tecnologia da Informação.pdf
3a Web Aula - Gestão de Tecnologia da Informação.pdfDimas Francisco
 
Master Data Management & Virtualização de Dados em SOA
Master Data Management & Virtualização de Dados em SOAMaster Data Management & Virtualização de Dados em SOA
Master Data Management & Virtualização de Dados em SOARicardo Ferreira
 
Big Data & Cognitive Lab
Big Data & Cognitive LabBig Data & Cognitive Lab
Big Data & Cognitive LabTenbu
 
DataOps: da teoria a prática, como realmente se aplica em projetos de BigData
DataOps: da teoria a prática, como realmente se aplica em projetos de BigDataDataOps: da teoria a prática, como realmente se aplica em projetos de BigData
DataOps: da teoria a prática, como realmente se aplica em projetos de BigDataEduardo Hahn
 
Azure Fundamentals (Intensivão Azure)
Azure Fundamentals (Intensivão Azure)Azure Fundamentals (Intensivão Azure)
Azure Fundamentals (Intensivão Azure)Resource IT
 
Guia sobre análise de dados e aprendizado de máquina para CIO.
Guia sobre análise de dados e aprendizado de máquina para CIO.Guia sobre análise de dados e aprendizado de máquina para CIO.
Guia sobre análise de dados e aprendizado de máquina para CIO.Lucas Modesto
 

Semelhante a IDC Portugal | Virtualização de Dados como Estratégia de Gestão de Dados para Advanced Analytics (20)

DataOps, Data Mesh e Data Fabric. Melhores práticas para seu projeto de arqui...
DataOps, Data Mesh e Data Fabric. Melhores práticas para seu projeto de arqui...DataOps, Data Mesh e Data Fabric. Melhores práticas para seu projeto de arqui...
DataOps, Data Mesh e Data Fabric. Melhores práticas para seu projeto de arqui...
 
Big Data - Hadoop
Big Data - HadoopBig Data - Hadoop
Big Data - Hadoop
 
TDC - Planejando data Lake com big data clusters
TDC - Planejando data Lake com big data clustersTDC - Planejando data Lake com big data clusters
TDC - Planejando data Lake com big data clusters
 
Data Management Summit
Data Management SummitData Management Summit
Data Management Summit
 
Guia de compras - Microsoft Azure
Guia de compras - Microsoft AzureGuia de compras - Microsoft Azure
Guia de compras - Microsoft Azure
 
Big Data Analytics - Data Engineer, Arquitetura, AWS e Mais
Big Data Analytics - Data Engineer, Arquitetura, AWS e MaisBig Data Analytics - Data Engineer, Arquitetura, AWS e Mais
Big Data Analytics - Data Engineer, Arquitetura, AWS e Mais
 
Data Mesh: O que é e quais tecnologias facilitam sua implementação?
Data Mesh: O que é e quais tecnologias facilitam sua implementação?Data Mesh: O que é e quais tecnologias facilitam sua implementação?
Data Mesh: O que é e quais tecnologias facilitam sua implementação?
 
Data Management: 5 tendências para alcançar a mudança
Data Management: 5 tendências para alcançar a mudançaData Management: 5 tendências para alcançar a mudança
Data Management: 5 tendências para alcançar a mudança
 
Teoria de Sistemas de Informação - Atividade: Tecnologia e SI
Teoria de Sistemas de Informação - Atividade: Tecnologia e SITeoria de Sistemas de Informação - Atividade: Tecnologia e SI
Teoria de Sistemas de Informação - Atividade: Tecnologia e SI
 
Data Fabric e Chat GPT - Unindo forças para a verdadeira democratização no ac...
Data Fabric e Chat GPT - Unindo forças para a verdadeira democratização no ac...Data Fabric e Chat GPT - Unindo forças para a verdadeira democratização no ac...
Data Fabric e Chat GPT - Unindo forças para a verdadeira democratização no ac...
 
Qual é o futuro da estratégia de dados?
Qual é o futuro da estratégia de dados?Qual é o futuro da estratégia de dados?
Qual é o futuro da estratégia de dados?
 
AWS Data Immersion Webinar Week - Planeje e entenda como criar um repositório...
AWS Data Immersion Webinar Week - Planeje e entenda como criar um repositório...AWS Data Immersion Webinar Week - Planeje e entenda como criar um repositório...
AWS Data Immersion Webinar Week - Planeje e entenda como criar um repositório...
 
Apresentação Seeds to the Cloud - Igor Barreto e Thais Lino, dataRain.pptx
Apresentação Seeds to the Cloud - Igor Barreto e Thais Lino, dataRain.pptxApresentação Seeds to the Cloud - Igor Barreto e Thais Lino, dataRain.pptx
Apresentação Seeds to the Cloud - Igor Barreto e Thais Lino, dataRain.pptx
 
3a Web Aula - Gestão de Tecnologia da Informação.pdf
3a Web Aula - Gestão de Tecnologia da Informação.pdf3a Web Aula - Gestão de Tecnologia da Informação.pdf
3a Web Aula - Gestão de Tecnologia da Informação.pdf
 
BIG DATA
BIG DATABIG DATA
BIG DATA
 
Master Data Management & Virtualização de Dados em SOA
Master Data Management & Virtualização de Dados em SOAMaster Data Management & Virtualização de Dados em SOA
Master Data Management & Virtualização de Dados em SOA
 
Big Data & Cognitive Lab
Big Data & Cognitive LabBig Data & Cognitive Lab
Big Data & Cognitive Lab
 
DataOps: da teoria a prática, como realmente se aplica em projetos de BigData
DataOps: da teoria a prática, como realmente se aplica em projetos de BigDataDataOps: da teoria a prática, como realmente se aplica em projetos de BigData
DataOps: da teoria a prática, como realmente se aplica em projetos de BigData
 
Azure Fundamentals (Intensivão Azure)
Azure Fundamentals (Intensivão Azure)Azure Fundamentals (Intensivão Azure)
Azure Fundamentals (Intensivão Azure)
 
Guia sobre análise de dados e aprendizado de máquina para CIO.
Guia sobre análise de dados e aprendizado de máquina para CIO.Guia sobre análise de dados e aprendizado de máquina para CIO.
Guia sobre análise de dados e aprendizado de máquina para CIO.
 

Mais de Denodo

Enterprise Monitoring and Auditing in Denodo
Enterprise Monitoring and Auditing in DenodoEnterprise Monitoring and Auditing in Denodo
Enterprise Monitoring and Auditing in DenodoDenodo
 
Lunch and Learn ANZ: Mastering Cloud Data Cost Control: A FinOps Approach
Lunch and Learn ANZ: Mastering Cloud Data Cost Control: A FinOps ApproachLunch and Learn ANZ: Mastering Cloud Data Cost Control: A FinOps Approach
Lunch and Learn ANZ: Mastering Cloud Data Cost Control: A FinOps ApproachDenodo
 
Achieving Self-Service Analytics with a Governed Data Services Layer
Achieving Self-Service Analytics with a Governed Data Services LayerAchieving Self-Service Analytics with a Governed Data Services Layer
Achieving Self-Service Analytics with a Governed Data Services LayerDenodo
 
What you need to know about Generative AI and Data Management?
What you need to know about Generative AI and Data Management?What you need to know about Generative AI and Data Management?
What you need to know about Generative AI and Data Management?Denodo
 
Mastering Data Compliance in a Dynamic Business Landscape
Mastering Data Compliance in a Dynamic Business LandscapeMastering Data Compliance in a Dynamic Business Landscape
Mastering Data Compliance in a Dynamic Business LandscapeDenodo
 
Denodo Partner Connect: Business Value Demo with Denodo Demo Lite
Denodo Partner Connect: Business Value Demo with Denodo Demo LiteDenodo Partner Connect: Business Value Demo with Denodo Demo Lite
Denodo Partner Connect: Business Value Demo with Denodo Demo LiteDenodo
 
Expert Panel: Overcoming Challenges with Distributed Data to Maximize Busines...
Expert Panel: Overcoming Challenges with Distributed Data to Maximize Busines...Expert Panel: Overcoming Challenges with Distributed Data to Maximize Busines...
Expert Panel: Overcoming Challenges with Distributed Data to Maximize Busines...Denodo
 
Drive Data Privacy Regulatory Compliance
Drive Data Privacy Regulatory ComplianceDrive Data Privacy Regulatory Compliance
Drive Data Privacy Regulatory ComplianceDenodo
 
Знакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данныхЗнакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данныхDenodo
 
Data Democratization: A Secret Sauce to Say Goodbye to Data Fragmentation
Data Democratization: A Secret Sauce to Say Goodbye to Data FragmentationData Democratization: A Secret Sauce to Say Goodbye to Data Fragmentation
Data Democratization: A Secret Sauce to Say Goodbye to Data FragmentationDenodo
 
Denodo Partner Connect - Technical Webinar - Ask Me Anything
Denodo Partner Connect - Technical Webinar - Ask Me AnythingDenodo Partner Connect - Technical Webinar - Ask Me Anything
Denodo Partner Connect - Technical Webinar - Ask Me AnythingDenodo
 
Lunch and Learn ANZ: Key Takeaways for 2023!
Lunch and Learn ANZ: Key Takeaways for 2023!Lunch and Learn ANZ: Key Takeaways for 2023!
Lunch and Learn ANZ: Key Takeaways for 2023!Denodo
 
It’s a Wrap! 2023 – A Groundbreaking Year for AI and The Way Forward
It’s a Wrap! 2023 – A Groundbreaking Year for AI and The Way ForwardIt’s a Wrap! 2023 – A Groundbreaking Year for AI and The Way Forward
It’s a Wrap! 2023 – A Groundbreaking Year for AI and The Way ForwardDenodo
 
Quels sont les facteurs-clés de succès pour appliquer au mieux le RGPD à votr...
Quels sont les facteurs-clés de succès pour appliquer au mieux le RGPD à votr...Quels sont les facteurs-clés de succès pour appliquer au mieux le RGPD à votr...
Quels sont les facteurs-clés de succès pour appliquer au mieux le RGPD à votr...Denodo
 
Lunch and Learn ANZ: Achieving Self-Service Analytics with a Governed Data Se...
Lunch and Learn ANZ: Achieving Self-Service Analytics with a Governed Data Se...Lunch and Learn ANZ: Achieving Self-Service Analytics with a Governed Data Se...
Lunch and Learn ANZ: Achieving Self-Service Analytics with a Governed Data Se...Denodo
 
How to Build Your Data Marketplace with Data Virtualization?
How to Build Your Data Marketplace with Data Virtualization?How to Build Your Data Marketplace with Data Virtualization?
How to Build Your Data Marketplace with Data Virtualization?Denodo
 
Webinar #2 - Transforming Challenges into Opportunities for Credit Unions
Webinar #2 - Transforming Challenges into Opportunities for Credit UnionsWebinar #2 - Transforming Challenges into Opportunities for Credit Unions
Webinar #2 - Transforming Challenges into Opportunities for Credit UnionsDenodo
 
Enabling Data Catalog users with advanced usability
Enabling Data Catalog users with advanced usabilityEnabling Data Catalog users with advanced usability
Enabling Data Catalog users with advanced usabilityDenodo
 
Denodo Partner Connect: Technical Webinar - Architect Associate Certification...
Denodo Partner Connect: Technical Webinar - Architect Associate Certification...Denodo Partner Connect: Technical Webinar - Architect Associate Certification...
Denodo Partner Connect: Technical Webinar - Architect Associate Certification...Denodo
 
GenAI y el futuro de la gestión de datos: mitos y realidades
GenAI y el futuro de la gestión de datos: mitos y realidadesGenAI y el futuro de la gestión de datos: mitos y realidades
GenAI y el futuro de la gestión de datos: mitos y realidadesDenodo
 

Mais de Denodo (20)

Enterprise Monitoring and Auditing in Denodo
Enterprise Monitoring and Auditing in DenodoEnterprise Monitoring and Auditing in Denodo
Enterprise Monitoring and Auditing in Denodo
 
Lunch and Learn ANZ: Mastering Cloud Data Cost Control: A FinOps Approach
Lunch and Learn ANZ: Mastering Cloud Data Cost Control: A FinOps ApproachLunch and Learn ANZ: Mastering Cloud Data Cost Control: A FinOps Approach
Lunch and Learn ANZ: Mastering Cloud Data Cost Control: A FinOps Approach
 
Achieving Self-Service Analytics with a Governed Data Services Layer
Achieving Self-Service Analytics with a Governed Data Services LayerAchieving Self-Service Analytics with a Governed Data Services Layer
Achieving Self-Service Analytics with a Governed Data Services Layer
 
What you need to know about Generative AI and Data Management?
What you need to know about Generative AI and Data Management?What you need to know about Generative AI and Data Management?
What you need to know about Generative AI and Data Management?
 
Mastering Data Compliance in a Dynamic Business Landscape
Mastering Data Compliance in a Dynamic Business LandscapeMastering Data Compliance in a Dynamic Business Landscape
Mastering Data Compliance in a Dynamic Business Landscape
 
Denodo Partner Connect: Business Value Demo with Denodo Demo Lite
Denodo Partner Connect: Business Value Demo with Denodo Demo LiteDenodo Partner Connect: Business Value Demo with Denodo Demo Lite
Denodo Partner Connect: Business Value Demo with Denodo Demo Lite
 
Expert Panel: Overcoming Challenges with Distributed Data to Maximize Busines...
Expert Panel: Overcoming Challenges with Distributed Data to Maximize Busines...Expert Panel: Overcoming Challenges with Distributed Data to Maximize Busines...
Expert Panel: Overcoming Challenges with Distributed Data to Maximize Busines...
 
Drive Data Privacy Regulatory Compliance
Drive Data Privacy Regulatory ComplianceDrive Data Privacy Regulatory Compliance
Drive Data Privacy Regulatory Compliance
 
Знакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данныхЗнакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данных
 
Data Democratization: A Secret Sauce to Say Goodbye to Data Fragmentation
Data Democratization: A Secret Sauce to Say Goodbye to Data FragmentationData Democratization: A Secret Sauce to Say Goodbye to Data Fragmentation
Data Democratization: A Secret Sauce to Say Goodbye to Data Fragmentation
 
Denodo Partner Connect - Technical Webinar - Ask Me Anything
Denodo Partner Connect - Technical Webinar - Ask Me AnythingDenodo Partner Connect - Technical Webinar - Ask Me Anything
Denodo Partner Connect - Technical Webinar - Ask Me Anything
 
Lunch and Learn ANZ: Key Takeaways for 2023!
Lunch and Learn ANZ: Key Takeaways for 2023!Lunch and Learn ANZ: Key Takeaways for 2023!
Lunch and Learn ANZ: Key Takeaways for 2023!
 
It’s a Wrap! 2023 – A Groundbreaking Year for AI and The Way Forward
It’s a Wrap! 2023 – A Groundbreaking Year for AI and The Way ForwardIt’s a Wrap! 2023 – A Groundbreaking Year for AI and The Way Forward
It’s a Wrap! 2023 – A Groundbreaking Year for AI and The Way Forward
 
Quels sont les facteurs-clés de succès pour appliquer au mieux le RGPD à votr...
Quels sont les facteurs-clés de succès pour appliquer au mieux le RGPD à votr...Quels sont les facteurs-clés de succès pour appliquer au mieux le RGPD à votr...
Quels sont les facteurs-clés de succès pour appliquer au mieux le RGPD à votr...
 
Lunch and Learn ANZ: Achieving Self-Service Analytics with a Governed Data Se...
Lunch and Learn ANZ: Achieving Self-Service Analytics with a Governed Data Se...Lunch and Learn ANZ: Achieving Self-Service Analytics with a Governed Data Se...
Lunch and Learn ANZ: Achieving Self-Service Analytics with a Governed Data Se...
 
How to Build Your Data Marketplace with Data Virtualization?
How to Build Your Data Marketplace with Data Virtualization?How to Build Your Data Marketplace with Data Virtualization?
How to Build Your Data Marketplace with Data Virtualization?
 
Webinar #2 - Transforming Challenges into Opportunities for Credit Unions
Webinar #2 - Transforming Challenges into Opportunities for Credit UnionsWebinar #2 - Transforming Challenges into Opportunities for Credit Unions
Webinar #2 - Transforming Challenges into Opportunities for Credit Unions
 
Enabling Data Catalog users with advanced usability
Enabling Data Catalog users with advanced usabilityEnabling Data Catalog users with advanced usability
Enabling Data Catalog users with advanced usability
 
Denodo Partner Connect: Technical Webinar - Architect Associate Certification...
Denodo Partner Connect: Technical Webinar - Architect Associate Certification...Denodo Partner Connect: Technical Webinar - Architect Associate Certification...
Denodo Partner Connect: Technical Webinar - Architect Associate Certification...
 
GenAI y el futuro de la gestión de datos: mitos y realidades
GenAI y el futuro de la gestión de datos: mitos y realidadesGenAI y el futuro de la gestión de datos: mitos y realidades
GenAI y el futuro de la gestión de datos: mitos y realidades
 

Último

Selling Story Max Excellence DIS - Q2'24 DIS TD (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS TD (1).pdfSelling Story Max Excellence DIS - Q2'24 DIS TD (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS TD (1).pdfmaanuarruda
 
Relatório de Gestão 2022-2023 Intra Leste Nordeste
Relatório de Gestão 2022-2023 Intra Leste NordesteRelatório de Gestão 2022-2023 Intra Leste Nordeste
Relatório de Gestão 2022-2023 Intra Leste NordesteDaniloMatos36
 
Selling Story Max Excellence DIS - Q2'24 DIS VJ (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS VJ (1).pdfSelling Story Max Excellence DIS - Q2'24 DIS VJ (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS VJ (1).pdfmaanuarruda
 
AULA_02_-_SISTEMA_DE_NUMERACAO2023/2.pdf
AULA_02_-_SISTEMA_DE_NUMERACAO2023/2.pdfAULA_02_-_SISTEMA_DE_NUMERACAO2023/2.pdf
AULA_02_-_SISTEMA_DE_NUMERACAO2023/2.pdfhistonfilho
 
EM-3ª-SERIE-SLIDE-DE-BIOLOGIA-os-principios-das-leis-da-genetica-ou-mendelian...
EM-3ª-SERIE-SLIDE-DE-BIOLOGIA-os-principios-das-leis-da-genetica-ou-mendelian...EM-3ª-SERIE-SLIDE-DE-BIOLOGIA-os-principios-das-leis-da-genetica-ou-mendelian...
EM-3ª-SERIE-SLIDE-DE-BIOLOGIA-os-principios-das-leis-da-genetica-ou-mendelian...9z64mgz4kf
 
Selling Story Max Excellence DIS - Q2'24 DIS HIB (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS HIB (1).pdfSelling Story Max Excellence DIS - Q2'24 DIS HIB (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS HIB (1).pdfmaanuarruda
 

Último (6)

Selling Story Max Excellence DIS - Q2'24 DIS TD (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS TD (1).pdfSelling Story Max Excellence DIS - Q2'24 DIS TD (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS TD (1).pdf
 
Relatório de Gestão 2022-2023 Intra Leste Nordeste
Relatório de Gestão 2022-2023 Intra Leste NordesteRelatório de Gestão 2022-2023 Intra Leste Nordeste
Relatório de Gestão 2022-2023 Intra Leste Nordeste
 
Selling Story Max Excellence DIS - Q2'24 DIS VJ (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS VJ (1).pdfSelling Story Max Excellence DIS - Q2'24 DIS VJ (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS VJ (1).pdf
 
AULA_02_-_SISTEMA_DE_NUMERACAO2023/2.pdf
AULA_02_-_SISTEMA_DE_NUMERACAO2023/2.pdfAULA_02_-_SISTEMA_DE_NUMERACAO2023/2.pdf
AULA_02_-_SISTEMA_DE_NUMERACAO2023/2.pdf
 
EM-3ª-SERIE-SLIDE-DE-BIOLOGIA-os-principios-das-leis-da-genetica-ou-mendelian...
EM-3ª-SERIE-SLIDE-DE-BIOLOGIA-os-principios-das-leis-da-genetica-ou-mendelian...EM-3ª-SERIE-SLIDE-DE-BIOLOGIA-os-principios-das-leis-da-genetica-ou-mendelian...
EM-3ª-SERIE-SLIDE-DE-BIOLOGIA-os-principios-das-leis-da-genetica-ou-mendelian...
 
Selling Story Max Excellence DIS - Q2'24 DIS HIB (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS HIB (1).pdfSelling Story Max Excellence DIS - Q2'24 DIS HIB (1).pdf
Selling Story Max Excellence DIS - Q2'24 DIS HIB (1).pdf
 

IDC Portugal | Virtualização de Dados como Estratégia de Gestão de Dados para Advanced Analytics

  • 1. | © 2021 IDC Data Monetization & Integration - 12.May.2021 Virtualização de Dados como Estratégia de Gestão de Dados para Advanced Analytics João Caldeira, Center of Excellence Business Manager, Keyrus joao.caldeira@keyrus.com
  • 2. | 2 | A vida de um Data Scientist Desafíos 1. Encontrar os dados adequados 2. Ter acesso aos dados (envolve ter credenciais) 3. Transformar os dados num formato utilizável 4. Combinar dados provenientes de múltiplas fontes 5. Limpar os dados e/ou eliminar registos incompletos 6. ….. 7. ….. Source: Anaconda, State of Data Science Report, 2020
  • 3. | 3 | Enquadrar o Problema Preparação e Anotação dos Dados Ingestão e Gestão dos Dados Particionar os Dados Análise Exploratória Engenharia de “Features” Modelação Otimização de Modelos Avaliação e Seleção Análise de Risco e Cumprimento de Regras Desenvolver Software Implementação Consumo de APIs Manutenção de Modelos Detestam fazer Necessitam informação do domínio vinda de terceiros Frequentemente usam metodologias erradas Gostam e querem continuar a fazer A vida de um Data Scientist Desafíos Manual, Demorado e Repetitivo
  • 4. | 4 | Problema 66% Source: Anaconda, State of Data Science Report, 2020 1. Processo manual 2. Propício a erros 3. Entediante 4. Baixo valor acrescentado 5. 66% do tempo é passado nestas tarefas 6. …..
  • 5. | 5 | Top Trends in Data and Analytics for 2021: Data Fabric Is the Foundation Integração de dados (49%) e preparação de dados (37%) estão no top três das tecnologias que as organizações querem automatizar até ao final de 2022.
  • 6. | 6 | O Passado Data Warehouse Data Lake Criado em 1992 Criado em 2008
  • 7. | 7 | Albert Einstein Não podemos resolver os nossos problemas de hoje com as mesmas ideias que usávamos quando eles foram criados.
  • 8. | 8 | O Futuro Data Lake Virtual Data Criado em 1992 Criado em 2008
  • 9. | 9 | Gartner Data Virtualization Market Guide, Dec 2018 Até 2022, 60% de todas as organizações implementarão a virtualização de dados como uma componente fundamental na sua arquitetura de integração de dados.
  • 10. | 10 | Capacidades essenciais da Virtualização de Dados • Abstração de Dados: Desacoplando aplicações/utilização dos dados das fontes de dados • Integração de Dados sem replicação ou relocalização de dados físicos • Fácil acesso a qualquer dado, em tempo real, no momento certo com alto rendimento • Catálogo de Dados para fácil descoberta em modo self-service de serviços de dados • Metadados unificados, segurança & governança sobre todos os dados, suportando o RGPD • Partilha de Dados em qualquer formato, com mecanismos inteligentes de otimização de pesquisa, aprofundando as funcionalidade das plataformas novas e existentes Uma camada lógica de dados – um “tecido de dados” – que fornece alta-performance, em tempo real e de acesso seguro à integração das vistas de negócio sobre dados empresariais distribuídos
  • 11. | 11 | 2 tendências em arquiteturas modernas de dados Tendências Virtual Data Fabric Virtual Data Mesh Data Virtualization Platform Tecnologia
  • 12. | 12 | Virtual Data Fabric
  • 13. | 13 | How to Get more from Your Data in 2020, Jan 2020 Uma arquitetura data fabric é projetada para consumir dados históricos e atuais, dispersos em vários silos para produzir uma visão única dos dados que faça sentido para o negócio.
  • 14. | 14 | Virtual Data Fabric Virtual Data Fabric Data Science Machine Learning Inteligência Artificial Aplicativos Móveis Análises Preditivas Business Intelligence Relational NoSQL Desestruturado Docs Nuvem Sensores IoT Dados Unificados Segurança Camada de abstração Acesso Universal Auto-serviço Catálogo de Dados
  • 15. | 15 | Virtual Data Mesh
  • 16. | 16 | Should Your Application Consider Data Mesh Connectivity? May 2020 … data mesh permite que as fontes de dados permaneçam distribuídas e controladas por diferentes organizações, mas acessíveis a uma aplicação centralizada.
  • 17. | 17 | Virtual Data Mesh Virtual Data Mesh Auto-serviço Catálogo de Dados Data Domains Data Science Machine Learning Inteligência Artificial Aplicativos Móveis Análises Preditivas Business Intelligence Dados Unificados Segurança Camada de abstração Acesso Universal
  • 18. | 18 | A Clear Multicloud Strategy Delivers Business Value, Apr 2018 CIOs enfrentam o desafio de Multi-Nuvem e de desenvolver uma estratégia eficaz para entender e gerir a mistura de recursos em nuvem sobre os quais os seus negócios dependem.
  • 19. | 19 | Multi-Cloud Challenges On-prem Data Center
  • 20. | 20 | Multi-Cloud Data Mesh Multi Cloud Data Mesh Auto-serviço Catálogo de Dados Dados on Premisse Data Science Machine Learning Inteligência Artificial Aplicativos Móveis Análises Preditivas Business Intelligence Dados Unificados Segurança Camada de abstração Acesso Universal Dados em Nuvem Dados em Nuvem Dados em Nuvem
  • 21. | 21 | Logical Data Fabric Logical Data Fabric Data Science Machine Learning Artificial Intelligence Mobile Applications Predictive Analytics Business Intelligence Unified Data Security Abstraction Layer Universal Access Oracle Cloudera Snowflake Webservice $
  • 22. | 22 | Benefícios 1. Integrar dados de diferentes sistemas fonte sem os mover 2. Uma “linguagem” única de agregação de dados 3. Acesso aos dados em tempo real 4. Transformar dados a pedido 5. Partilha de especificações 6. Ter dados em cache se for necessário 7. Usar os benefícios dos metadados 8. Mais tempo para a componente analítica
  • 23. Problema Solução Resultados Case Study | 23 | A DNB utiliza a plataforma Denodo para criar um laboratório de Data Science na núvem ▪ Não possuir um laboratório de Data Science escalável para laborar em casos de uso suportados por anallitica avançada, tal como preço personalizado, recomendação de produtos otimizada, etc. ▪ Os Data Scientists ocupavam demasiado tempo em tarefas de preparação de dados o que lhes deixava pouco tempo para a criação de modelos. ▪ A DNB tentava há algum tempo, sem grande sucesso, arquitetar a plataforma adequada que pudesse obter dados de várias fontes, incluindo, múltiplas data warehouses, bases de dados transacionais, data lakes , etc e que de uma forma simplificada pudesse ajudar nas iniciativas de Data Science. • A solução Denodo atuou como um aglutinador que conectou em tempo real as várias fontes de dados da DNB’s, incluindo os seus data warehouses on- prem, os data lakes na AWS que guardam os dados transacionais e uma instância Cloudera que suporta a solução de ClickStreaming. • O catálogo de dados da Denodo geriu e facilitou o acesso aos metadados, o que permitiu aos Data Scientists rapidamente pesquisar os dados e descobrir os data sets disponíveis. • A plataforma Denodo permitiu a equipa de Data Science da DNB focar-se na sua área fundamental de atividade - criação de modelos - no lugar de tarefas de preparação de dados. • A plataforma Denodo funcionou como um agregador que interligou as mais variadas fontes de dados, sejam on-prem ou na nuvem, e tornou possível e fácil para a DNB desenvolver eficientemente as suas atividades de analítica avançada. DNB ASA é o maior grupo financeiro Norueguês combinando bens de mais de 1.9 triliões (NOK) e com uma capitalização de mercado de 185 biliões (USD) (2016). Os escritórios principais da DNB’s estão localizados em Oslo.
  • 24. | 24 | Gestão de Dados Liderança
  • 25. | 25 | YOUR DATA …… OUR PASSION ! A Keyrus 25 3.200+ 261M 21 50+ 5.000+ anos de experiência pessoas EUR 2020 paises diferentes nacionalidades clientes MAKING DATA MATTER Keyrus é uma empresa de consultoria especialista em analytics e transformação digital focada em ajudá-lo a tirar o máximo partido dos seus dados ENTREGAMOS SOLUÇÕES Para fazer evoluir o seu negócio transformando dados em insights e valor.
  • 26. Obrigado! João Caldeira joao.caldeira@keyrus.com Se quiser ver uma demo ou saber mais sobre a virtualização de dados, todos os benefícios e como melhorar o seu negócio, visite-nos no nosso stand virtual. Até breve!