1327년 이탈리아 북부에 있는 베네딕트 수도원에서 그림 그리는 채식 수사 아델모의 시체가 발견되면서 수도원은 술렁이기 시작한다. 당시 교회의 청빈을 주장하는 프라시스코 수도회와 그를 반박하는 교황청 및 다른 교단들의 반목이 심화되자 이를 해결키 위해 이 수도원에서 각 교단이 모여 토론을 하기로 함으로써, 프란시스코 수사인 윌리엄(William of Baskerville: 숀 코넬리 분)은 수련 제자 아조(Adso of Melk: 크리스찬 슬레이터 분)를 데리고 이곳에 들른다.
뛰어난 두뇌의 소유자 윌리엄이 수도원이 심상치 않음을 간파하자 수도원장(The Abbot: 미쉘 론스데일 분)은 윌리엄에게 이 사건을 해결해 달라고 요청한다. 그러던 중 그리이스어 번역사가 다시 살해되고 요한 계시록의 예언대로 수사들이 죽음을 맞자 수도원은 악마의 역사가 시작됐다고 극도의 불안에 떤다. 서고를 은밀히 지키던 두 사람은 심야에도 서관에서 누군가가 책 한권을 훔쳐 달아나는 것을 목격하고 뒤를 밟았지만 그들이 발견한 것은 주방에서 정사를 벌이고 있는 마을처녀와 수도승. 가난한 마을 처녀는 그렇게 해서 식량을 구하고 있는 것이었다.
윌리엄은 사서와 보조사서의 행동을 수상쩍다고 느끼던 중 암호가 적인 양피지를 발견, 사서외엔 아무도 못들어 간다는 도서관에 비밀의 열쇠가 있다고 판단, 잠입을 시도하지만 실패한다. 한편 죽은 수사마다 혀와 손가락 끝에 검은 잉크자국이 베어 있는데. 그러던 사이에 이단 심문에서 유죄로 선고된 두 수도승, 여기에 마녀로 선고된 마을처녀도 함께 묶여서 세사람의 발아래 장작이 쌓이는 순간 윌리암은 범인을 알아내고 서고탑 안으로 들어가는데.