Relatório original elaborado por:
Em 2020, foi solicitado pelo gabinete do diretor da formação, um relatório que apresentasse recomendações de alto nível sobre a consolidação do sistema de analítica de aprendizagem do Centro à luz da transformação digital global do Centro. O relatório propôs duas grandes visões e cinco desafios, incluindo um roteiro de curto, médio e longo prazo para dotar o gabinete do diretor da formação de ferramentas para analisar e interpretar sistematicamente os dados de aprendizagem. Os autores, Drachsler e Kalz, usaram o modelo de sofisticação da analítica de aprendizagem para avaliar o estado atual da analítica de aprendizagem no Centro e avaliaram-no como estando situado entre a etapa 2 e a etapa 3.
O objetivo do relatório é apresentar um roteiro para alcançar a etapa 3 do modelo de sofisticação da analítica de aprendizagem. Com base no relatório de 2020 da Drachsler e da Kalz, o estado atual da analítica de aprendizagem do CIF-OIT é analisado em termos da conceção do painel de dados e da sua aplicação nos processos organizacionais.
O roteiro, as etapas técnicas e organizacionais recomendadas neste relatório pretendem ser o ponto de partida para um processo de melhoria duradouro que envolve a reinvenção contínua da analítica de aprendizagem no Centro, a melhoria contínua para atingir, e ultrapassar, a etapa 3, com o objetivo de ser pioneiro na transformação digital enquanto organização de formação.
O Centro está situado entre a etapa 2 e a etapa 3 do modelo de sofisticação da analítica de aprendizagem
Os painéis de dados de analítica de aprendizagem devem:
As fontes dos dados devem não só incluir os dados da atividade, mas também ter em conta o conteúdo dos trabalhos concluídos
Vários grupos de indicadores relativos a aprendentes, ações, conteúdos, resultados, contexto e fatores sociais exigem diferentes tipos de fontes dos dados.
Objetivos
O CIF-OIT opera em quatro domínios: estratégia, desenvolvimento empresarial, clientes pontuais e clientes habituais. Os dados de aprendizagem não são um deles.
Os sistemas não suportam a autenticação única (SSO) o que aumenta a dificuldade da recolha de dados relacionados com o utilizador em ferramentas de terceiros.
Mudar o paradigma do Centro para uma plataforma de prestação de cursos baseada em dados, centrando-se mais na aprendizagem ao longo da vida e no desenvolvimento profissional contínuo
Infraestruturas
Dados e indicadores
O ciclo PDCA
Este ciclo deve ser usado para apoiar a futura conceção de aprendizagem centrada em dados concretos, usando os dados e o conhecimento reunidos como parte integrante da conceção de aprendizagem para novos cursos ou a revisão dos existentes.
Enfoque no utilizador
Um painel de dados de analítica de aprendizagem simples deve considerar a experiência de utilizador, que beneficia de uma comunicação clara e da redução das mensagens visuais ao mínimo necessário para passar a mensagem desejada.
O diagrama a seguir ilustra a infraestrutura técnica para tratar os dados da analítica de aprendizagem. Não se trata apenas do estado atual, mas inclui também modificações e medidas de organização previstas para um futuro próximo.
Embora o seu enfoque não seja exclusivamente na aprendizagem, o IBI concentra-se na perspetiva macro. No eCampus, há um painel de dados do/a gestor/a de atividades de nível micro, que dá acesso ao estado de conclusão e à classificação do curso e das atividades, por utilizador/a.
It will soon be integrated into the eCampus as a Moodle module. In this way, data will no longer need manual extraction via Excel sheets, but can be collected by Kettle, like all other quiz results.
The system allows insights into many aspects such as sharing credentials on social media, automating credential creation and linking to the correct person.
Esta proposta de um plano para criar futuros painéis de dados de analítica de aprendizagem tenta integrar as soluções existentes da melhor maneira possível para evitar duplicação e esforço desnecessário. Globalmente, a configuração atual é capaz de alcançar a etapa 3 do modelo de sofisticação da analítica de aprendizagem.
Este processo será baseado nas dimensões da analítica de aprendizagem propostas por Drachsler e Kalz no relatório anterior.
Precisam de ser criados diferentes painéis de dados em função das diferentes necessidades. Uma solução única violaria não só vários objetivos, como também seria contrária aos princípios da conceção que considera a experiência de utilizador.
Ao considerar diferentes grupos de partes interessadas, é importante notar que alguns estão interessados num espaço de informação bem definido, enquanto outros desempenham um papel transversal.
As atividades mais comuns incluem a participação na formação, a própria formação, a avaliação das atividades de formação atuais ou passadas, a elaboração de relatórios sobre atividades passadas e a inovação do próprio processo de formação. Esta matriz é essencial para entender que indicadores são úteis, para que funções na organização.
São necessários vários painéis de dados. À primeira vista, uma opção óbvia seria haver quatro painéis, para os níveis micro, médio e macro, com o nível micro separado em micro interno para gestor de atividades e micro externo para os/as utilizadores finais.
No CIF-OIT, há várias pessoas que trabalham na melhoria da qualidade da formação, por isso vale a pena projetar os painéis de dados com esta situação em mente.
Ao comunicar os números do relatório bienal, as questões colocadas e os dados apresentados devem ser diferentes dos dados utilizados na análise da situação para o ganho a longo prazo do processo educativo. Os painéis de dados, especialmente a nível macro, devem permitir uma diferenciação entre a comunicação bienal de ICD e uma análise aprofundada fundamental dos processos educativos que não é adequada para a comunicação regular, mas que é desesperadamente necessária para a inovação na aprendizagem.
Há quatro objetivos principais para preencher o delta entre o status quo e o que pode ser considerado como estando na etapa 3 do modelo de sofisticação da analítica de aprendizagem.
Currently, data is only collected before and after the complete journey. This is largely due to the shift from comparatively short face-to-face courses to distance learning on a very large scale. Given the intended further expansion of distance learning, collecting relevant data early and often needs to be a major focus. Ideally, there should be several arrows in each row for collecting real-time learning data.
Um bom painel de dados não é um relatório Excel, mas sim as informações condensadas que alguém já tratou, o que lhe permite tirar conclusões sobre como agir em função desses dados.
Desbravar o caminho com um projeto é significativamente mais fácil se houver uma narrativa atraente que o acompanhe
-Tesla
Os indicadores e a estrutura do painel de dados foram definidos a partir dos primeiros princípios; em seguida, foi determinada a origem dos dados que precisam de ser mostrados e, finalmente, foram aplicados os princípios de conceção UX para torná-los tão fáceis de entender quanto possível.
A forma como as conclusões são tiradas deve ser continuamente monitorizada e melhorada. Os painéis de dados devem ser continuamente adaptados às questões em evolução colocadas pelos utilizadores e considerar novas questões que sejam relevantes para os desafios atuais enfrentados pelas diferentes partes interessadas.
Esta ligação mostra várias ideias para indicadores que podem ser exibidos nos painéis existentes.
Dar espaço às informações para respirar resulta numa melhor adesão dos utilizadores
Os painéis de dados só serão eficazes se forem feitas as perguntas corretas durante a sua conceção e utilização.
É necessário prestar uma especial atenção ao exame de correlações complexas entre dados ou áreas inteiramente novas de aprendizagem e inovação que vão ainda mais longe.
Reiterar os níveis micro de painéis de dados.
Análise epistémica das contribuições dos/as utilizadores/as dos cursos.
Aprendizagem profunda aplicada à composição de dados do indicador.
Medir o impacto dos painéis no pessoal e nos/as participantes.
Reforçar a utilização de certos cenários didáticos.
Introduzir ferramentas para análise profunda.
Integração mais profunda de módulos TinCan arbitrários.
Os indicadores descritos neste relatório podem servir de base para uma comunicação proativa com os/as participantes, por e-mail ou notificação push.
Poderia ser usado um algoritmo de aprendizagem inteligente para identificar os/as participantes que estão em risco desde o início, com base em perfis semelhantes que estiveram em risco no passado (analítica preditiva).
O painel de dados pode notificar proativamente o pessoal sobre os/as participantes que estão em risco, sem a necessidade de verificação regular de painéis de dados pormenorizados.