인공지능(AI)은 폭발적인 인기를 끌고 있음. 차량 운전, 이메일 교정, 심지어 새로운 약물 분자 설계까지 도와주는 모델을 구동함. 하지만 인간처럼 AI의 마음을 읽는 건 어려움. 설명 가능한 AI(XAI)는 이러한 기술의 하위 집합으로, 모델의 결정을 정당화하는 데 도움을 줄 수 있음. 이제 연구자들은 XAI를 사용해 예측 AI 모델을 더 면밀히 조사할 뿐만 아니라 화학 분야를 더 깊이 들여다보고 있음.
연구자들은 미국 화학회(ACS) 가을 회의에서 그들의 결과를 발표할 예정임. ACS Fall 2024는 가상 및 대면으로 열리는 하이브리드 회의로, 8월 18일부터 22일까지 진행되며 다양한 과학 주제에 대한 약 10,000개의 발표가 포함됨.
AI의 방대한 용도는 오늘날 기술 환경에서 거의 보편화됨. 그러나 많은 AI 모델은 블랙 박스임. 즉, 결과를 생성하기 위해 어떤 단계를 거쳤는지 명확하지 않음. 그리고 그 결과가 잠재적인 약물 분자와 같은 것이라면, 그 단계를 이해하지 못하는 것은 과학자들과 대중에게 회의감을 불러일으킬 수 있음.
과학자로서 우리는 정당성을 좋아함. AI가 결정을 내리는 방식에 대한 통찰력을 제공하는 모델을 개발할 수 있다면, 과학자들이 이러한 방법론에 더 편안함을 느낄 수 있을 것임.
레베카 데이비스, 매니토바 대학교 화학 교수
정당성을 제공하는 한 가지 방법은 XAI임. 이러한 기계 학습 알고리즘은 AI 의사 결정의 이면을 볼 수 있도록 도와줌. XAI는 다양한 맥락에서 적용될 수 있지만, 데이비스의 연구는 약물 발견을 위한 AI 모델에 적용하는 데 중점을 두고 있음. 새로운 항생제 후보를 예측하는 데 사용되는 모델과 같은 것들임. 수천 개의 후보 분자가 스크리닝되고 거부되어야 단 하나의 새로운 약물이 승인되므로, 정확하고 효율적인 예측 모델이 중요함. "XAI를 사용해 컴퓨터에게 화학을 가르치는 데 필요한 정보를 더 잘 이해하고 싶다"고 데이비스 연구실의 화학 대학원생 헌터 슈툼이 말함.
연구자들은 알려진 약물 분자의 데이터베이스를 AI 모델에 입력해 화합물이 생물학적 효과를 가질지 예측하도록 함. 그런 다음, 독일 카를스루에 공과대학교의 협력자인 파스칼 프리데리히가 개발한 XAI 모델을 사용해 모델의 예측으로 이어진 약물 분자의 특정 부분을 조사함. 이는 특정 분자가 왜 활성화되었는지 또는 그렇지 않은지를 설명하는 데 도움을 주었고, 데이비스와 슈툼이 AI 모델이 중요하다고 여기는 것과 다양한 화합물을 조사한 후 어떻게 범주를 생성하는지를 이해하는 데 도움을 줌.
연구자들은 XAI가 인간이 놓쳤을 수 있는 것들을 볼 수 있다는 것을 깨달음. XAI는 인간의 뇌보다 훨씬 더 많은 변수와 데이터 포인트를 동시에 고려할 수 있음. 예를 들어, 페니실린 분자 세트를 스크리닝할 때 XAI는 흥미로운 것을 발견함. "많은 화학자들은 페니실린의 핵심이 항생제 활성의 중요한 장소라고 생각함"이라고 데이비스가 말함. "하지만 XAI는 그렇게 보지 않았음." 대신, 그것은 그 핵심에 부착된 구조를 분류의 중요한 요소로 식별함. "이것이 일부 페니실린 유도체가 그 핵심을 가지고 있음에도 불구하고 생물학적 활성에서 저조한 이유일 수 있음"이라고 데이비스가 설명함.
중요한 분자 구조를 식별하는 것 외에도, 연구자들은 XAI를 사용해 예측 AI 모델을 개선하고자 함. "XAI는 컴퓨터 알고리즘이 항생제 활성에 대해 무엇을 중요하다고 정의하는지를 보여줌"이라고 슈툼이 설명함. "우리는 이 정보를 사용해 AI 모델이 무엇을 찾아야 하는지를 교육할 수 있음"이라고 데이비스가 덧붙임.
다음으로, 팀은 미생물학 실험실과 협력해 개선된 AI 모델이 항생제로 작용할 것이라고 예측하는 일부 화합물을 합성하고 테스트할 예정임. 궁극적으로 그들은 XAI가 화학자들이 더 나은, 또는 아마도 완전히 다른 항생제 화합물을 만드는 데 도움을 줄 수 있기를 희망함. 이는 항생제 내성 병원체의 확산을 막는 데 기여할 수 있음.
"AI는 사람들에게 많은 불신과 불확실성을 초래함. 하지만 AI에게 우리가 무엇을 하고 있는지 설명해 달라고 요청할 수 있다면, 이 기술이 수용될 가능성이 더 높아짐"이라고 데이비스가 말함.
슈툼은 화학 및 약물 발견에서 AI 응용이 이 분야의 미래를 나타낸다고 생각함. "누군가는 기초를 다져야 함. 내가 하고 있는 일이 바로 그것임을 희망함."
이 연구는 매니토바 대학교, 캐나다 보건 연구소 및 캐나다 디지털 연구 동맹의 지원을 받음.
