fbpx

Migração de centenas de milhões de arquivos com o S3 Batch Operations (Cilia)

Voiced by Amazon Polly
Sobre a Cilia

O sistema Cilia é uma solução automotiva de orçamentos de veículos. O software foi criado para ajudar o trabalho das oficinas, reguladoras e seguradoras no processo de realizar orçamentos.

Com a utilização do sistema, é possível orçar reparos através do compartilhamentos de imagens e informações sobre os danos que foram causados em um sinistro. Esse processo ocorre de forma automatizada, com o uso de inteligência artificial e machine learning e tecnologias de reconhecimento de imagens. Todo o processo acontece sem a intervenção de peritos, de oficinas ou reguladoras. Além disso, o sistema Cilia fornece também um painel estatístico, que exibe dados em tempo real sobre os sinistros documentados.

Durante o processo, o Cilia lida com uma variedade de dados pessoais dos segurados de seus clientes, o que acaba exigindo uma preocupação em termos de segurança por causa do ambiente altamente regulado que é o das seguradoras.

O Desafio

O sistema Cilia possui uma solução de armazenamento com uma grande quantidade de imagens, possuindo mais de 600 milhões de fotos de veículos que servem para alimentar os algoritmos de Inteligência Artificial, facilitando na hora de ajudar as oficinas, reguladoras e seguradoras a realizar orçamentos. Para isso, esses arquivos precisam ficar armazenados em um local que consiga suportar o grande volume de arquivos e a necessidade de estar sempre disponível e de forma segura, por isso foi optado por armazená-los no Amazon S3 em São Paulo. O Cilia queria reduzir os custos e começar a usar os novos serviços da AWS para aumentar a segurança do ambiente, pois também é um ponto muito importante a empresa, por recolherem informações pessoais dos clientes das seguradoras através de formulários preenchidos pelos mesmos. No entanto, o S3 em São Paulo tinha algumas limitações do ponto de vista de segurança e um custo alto.

A Solução

Através da parceria de vários anos com a Solvimm, foi realizado um planejamento para solucionar os desafios encontrados, focando na otimização de custos do armazenamento e na segurança dos dados. Como há uma grande quantidade de dados que precisam estar disponíveis o tempo todo, o ideal seria continuar armazenando no Amazon S3. Porém, precisavam ter mais controle com a segurança dos dados e, por isso, deixá-los armazenados na Região de São Paulo não seria a melhor solução por não possuir todas as configurações de segurança necessárias. Então, optamos em copiar e migrar os dados para o S3 na Região de Ohio, usando o Amazon S3 Batch Operation, pois consegue gerenciar uma grande quantidade de dados usando o S3, copiando os dados, utilizando operações em lote, entre as duas Regiões e economizando o tempo necessário para a mesma atividade de forma mais manual. Durante a migração, seria necessário uma estrutura de alta disponibilidade, com acesso aos arquivos tanto na região nova quanto na original, para entregar o conteúdo correto e rapidamente para os usuários, e por isso foi optado pelo CloudFront. O CloudFront é um serviço rede de entrega de conteúdo (CDN), que funciona com diversas origens da AWS, como o Amazon S3, é altamente distribuída e ajuda a otimizar o tempo de carregamento de conteúdos. Para aumentar ainda mais na segurança, passou-se a usar o padrão AES-256 de criptografia, utilizando chaves exclusivas, em todos os objetos armazenados no S3 para que não haja roubo de informações confidenciais.

O Resultado

Durante toda a migração dos mais de 600 milhões de arquivos entre as duas Regiões, tivemos 100% de disponibilidade, com um trabalho feito em apenas oito dias com a utilização do AWS S3 Batch Operations. Em abordagens mais tradicionais, o mesmo trabalho poderia durar alguns meses caso não fosse possível utilizar as operações em lote. E após a migração dos dados entre as Regiões de São Paulo para Ohio, houve uma redução de 67% no tempo de resposta da aquisição do processamento das imagens pela aplicação. Com essa redução significativa do tempo, houve uma redução de custos em mais de 60%. Já na questão segurança, ao criptografar os dados armazenados com AES-256, 100% dos arquivos estão criptográfados e seguros.

Filipe Barretto
Entre em Contato
[contact-form-7 id=”1630″ title=”Formulário – Blog”]