O castelo, vizinho à povoação, foi erguido em estilo românico, tendo as suas muralhas sido reforçadas por quatro cubelos (dois facetados e dois cilíndricos).
Ao centro da praça de armas ergue-se a torre de menagem, de planta quadrangular, com cinco metros de lado, em aparelho simples de xisto quartzítico, argamassado. Nos alçados Leste e Sul, rasgam-se janelas em cantaria. A Oeste rasga-se a única porta, a seis metros de altura, também em cantaria. Era primitivamente acedida por uma escada de madeira, amovível. No lintel, inscreve-se a cruz pátea templária e uma inscrição epigráfica, que é traduzida como: Gualdim Pais, mestre geral dos Templários, mandou fazer o castelo de Pena Roia, iniciando os trabalhos a 4 das Calendas de ... era de 1204 sendo freires assistentes frei João Francisco ..., fonte da datação normalmente aceite de 1166 da Era Cristã. Internamente a torre era dividida em três pavimentos.
Próximo a esta torre existe uma pequena torre circular com uma base em talude de execução recente.
A povoação foi outrora envolvida por uma cerca amuralhada.