Persona 2: Innocent Sin começa três anos após os eventos do primeiro Persona, em 1999. A história se passa em Sumaru City, uma grande metrópole fictícia situada no Japão contemporâneo. Sumaru City é amaldiçoada após eventos ocorridos no início do jogo, fazendo com que qualquer boato que se espalhe o suficiente se torne verdade.
O protagonista silencioso do jogo é Tatsuya Suou. Tatsuya é arrastado para a trama por Lisa Silverman, uma colega que o idolatra, quando o conflito entre a Escola Secundária Seven Sisters (Sevens) e a Escola Secundária Kasugayama (Cuss High) começa. Os dois encontram Eikichi Mishina, o autoproclamado chefe da Cuss High. Após uma briga, os três jogam um jogo para invocar o Coringa, um misterioso antagonista que, segundo rumores, aparece para qualquer um que o invoque. Quem não revela seus desejos ao Coringa, seja por não os ter ou por se recusar a fazê-lo, tem sua "energia ideal" roubada, reduzindo-os a cascas vazias e sem ambição chamadas Sombras. Uma vez invocado, o Coringa afirma que os três estudantes lhe fizeram algo terrível no passado e fica furioso quando eles não o reconhecem. Jurando vingança e empunhando uma estranha Caveira de Cristal, ele parte, deixando o trio confuso e ansioso para saber mais sobre ele. Mais tarde, eles fazem questão de dizer que Tatsuya e o Coringa se parecem.
Eventualmente, os três estudantes são acompanhados por Maya Amano e sua amiga, Yukino Mayuzumi, que retorna do primeiro jogo e já está familiarizada com demônios e capaz de usar sua Persona. Os cinco então partem em busca de Joker, a fonte de todos os rumores que se espalham e se tornam realidade. Sua busca leva o grupo a confrontar um grupo de seguidores fanáticos conhecido como Círculo Mascarado. Mais tarde, é revelado que o Círculo Mascarado original era o grupo de amigos formado por Tatsuya, Maya, Lisa, Eikichi e Jun quando crianças. Após desmentirem inúmeros rumores e derrotarem vários membros do Círculo Mascarado, o grupo encontra Joker, que então se revela como Jun Kurosu, o quinto amigo de infância e membro do Círculo Mascarado original. Eventualmente, o rumor amplamente difundido de que o Führer sobreviveu à Segunda Guerra Mundial com suas forças secretas, o Último Batalhão, vem à tona e suas tropas invadem a Cidade de Sumaru. Tatsuya e os outros lutam contra os dois membros restantes do Círculo Mascarado e os soldados do Último Batalhão para obter as caveiras de cristal, derrotando suas próprias Sombras no processo.
Perto do final de Pecado Inocente, Tatsuya e os outros embarcam em uma nave espacial alienígena conhecida como Xibalba, outro rumor que se tornou realidade. Nas profundezas de Xibalba, o grupo encontra o Führer, empunhando a Lança do Destino (a lança que perfurou Jesus Cristo e que, segundo a lenda, causa uma ferida mortal ao atingir a carne) e o derrota, destruindo o mundo. Tatsuya concorda em criar uma nova linha do tempo na qual Nyarlathotep não seja bem-sucedido, em troca das memórias de todos.