XIX Escola Regional de Alto Desempenho da Região Sul

This talk presents some ideas on how to exploit the structure and behaviour of data-intensive parallel applications to efficiently allocate dispersed computational resources taking into account non-functional requirements. Long considered a challenge to known distributed systems programming, large data-intensive multiprocessor systems exhibit unique inherent heterogeneity and dynamism. By abstracting commonly-used patterns of parallel computation, communication, and interaction, programmers can arguably enable parallel applications with substantial data requirements to adapt to the most suitable computational resources. We shall discuss some lessons learned from the work in cHiPSet, a major European COST Action on High-Performance Modelling and Simulation for Big Data Applications http://chipset-cost.eu/.

In this talk we are presenting an approach called as DISC (Data-Intensive Scalable Computing) which has the focus on data-centric, different type of applications (e.g. web and business), oriented to data management and analysis and has the objectives such as scalability, fault-tolerance, availability and cost-performance. The paradigm considers programming models utilizing high-level operators, languages such as Java/Python/Scala under shared-noting clusters of commodity hardware. We are going to share some experiences from HPC experts utilizing this approach in interesting industrial study cases.

In recent years, much progress has been made in Machine Learning and Artificial Intelligence in general. This progress required heavy use of high performance computers and accelerators. Moreover, ML and AI have become a "killer application" for HPC and, consequently, driven much research in this area. In this seminar, we will present recent advances in the intersection of HPC and AI/ML, what some industries are using these technologies for, and what are the challenges and opportunities in these areas.

As mais destacadas empresas, instituições governamentais e centros de pesquisa enfrentam um grande problema atualmente: a demanda por poder computacional excede a oferta por este recurso essencial. Além disso, na era pós Lei de Moore, essa diferença tem crescido ano a ano. Há mais de dez anos a computação acelerada por GPUs tem se mostrado a melhor estratégia para conseguir o poder computacional necessário para a rápida evolução da Inteligência Artificial (AI), Big Data & Analytics, e também das aplicações tradicionais de HPC. É uma abordagem que vem sendo utilizada amplamente por empresas como IBM, Amazon, Facebook, Google, Baidu, etc. Um servidor com GPUs ("Strong Node") substitui em média mais de 10 servidores sem aceleração, cortando o custo de aquisição. Os custos operacionais também são consideravelmente reduzidos pela economia no espaço físico e uma maior eficiência energética. O Summit, maior supercomputador do mundo, é o melhor exemplo desta tecnologia sendo usada na prática. Já existem mais de 450 aplicações que foram modernizadas e aceleradas para GPUs, incluindo 10 entre as Top10 aplicações de HPC e os principais Frameworks de IA.