PHILADELPHIA — Tech companies are collecting an enormous amount of data from universities and colleges, but even big players like Microsoft seem unsure how best to harness the potential of this data, said speakers at a session here of the annual meeting of Educause.

During the “Artificial Intelligence and Machine Learning: The “Art of the Possible””session, a Microsoft representative demonstrated new developments in the Delve application that could help boost student and faculty productivity. By showing users information about their individual work performance, such as how quickly they respond to emails or spend writing papers, the app can track work habits and prompt users to work more effectively.

But the real potential of this application doesn’t lie with in this individual data, but in data about groups. Potentially, institutions could use algorithms to analyze the data and identify students who might be struggling and help them – a good thing. But institutions could also use the data to pinpoint faculty members who never respond to their emails, or don’t seem to be doing any writing – an altogether more sinister prospect to professors(particularly for the untenured). Given this quandary, the question of what to do next is one that Microsoft hasn’t yet answered, the session heard.

Concerns about data privacy were a running theme in the Educause session, which highlighted current and forthcoming AI and machine learning initiatives at companies such as McGraw-Hill Education, Box and Canvas. While AI and machine learning were touted as the bridge that will enable higher education to do meaningful things with all the teaching and learning data that is being collected, the importance of developing these technologies in a mindful and deliberate way was stressed by all the speakers, particularly as institutions have a legal responsibility to protect student data under the Family Educational Rights and Privacy Act.

Andrew Keating, the managing director of higher education at information management and storage company Box, described how his company worked with hundreds of universities to store and share their digital files. The company is working with partners to introduce AI-enabled features such as automatic transcription of video files, but also encourages colleges universities to develop their own custom tools. While the technology that academics develop is certainly useful to the company in terms of realizing the potential to of the data available, Keating said that the company was not profiting from these ideas financially, and did not mine colleges and universities’ data.

Masha Chase, senior product manager at Instructure, which created learning management system Canvas, said that in addition to safeguarding data privacy, institutions and technology companies need to think carefully about the potential of AI and machine learning to enable students to avoid being self-sufficient. “There is a danger we could lose that,” warned Chase. Among recent innovations at Canvas is a partnership with Amazon Alexa, which enables students and faculty to ask an Alexa device questions such as, “When is my next paper due?” or “How many papers do I have to grade?”