Les premières mentions de l'église de Saint-Pierre de Juillers remontent à la fin du 11e siècle : le cartulaire de l'abbaye de Saint-Jean d'Angély fait état de deux donations. La première, vers 1089, est faite par un certain Pierre Rufus et ses frères et sœurs, et concerne l'église avec ses appartenances et redevances. La seconde, vers 1093, est concédée par la famille Melle, confirmée par le vicomte d'Aulnay et l'évêque de Saintes, et concerne une partie de l'église, le cimetière, un moulin et des terres alentour.

Du premier édifice, il reste peut-être un chapiteau daté du Haut Moyen Age et retrouvé vers 2000 dans un terrain voisin. Toutefois, les colonnes engagées de la travée sous clocher sont datables du 12e siècle, d'après les sculptures des chapiteaux. L'église fut donc sans doute reconstruite sous l'impulsion des moines bénédictins de Saint-Jean d'Angély. Le choeur fut quant à lui réédifié vers le 15e siècle.

La nef fut reconstruite, selon Connoué, après avoir été abattue par les protestants pendant les guerres de Religion. Elle pourrait dater du 17e siècle, mais faute de documents et de décors, il est difficile d'affiner cette datation. Le clocher, le contrefort sud et la voûte qui le soutiennent ont été démolis et reconstruits par un certain Jean Bigeon en 1777-1778, alors qu'ils menaçaient ruine. Les anciennes colonnes romanes, promises à la démolition, ont finalement été épargnées lors des travaux.

En 1806, l'église est dite en assez bon état mais non employée. Au 19e siècle, Saint-Pierre de Juillers et Saint-Martin de Juillers relèvent de la succursale de Cherbonnières. La sacristie actuelle a été construite dans la 2e moitié du 19e siècle et a remplacé une autre construite vers 1740 au nord du choeur, aujourd'hui démolie mais visible sur le cadastre napoléonien de 1835. La façade occidentale a été reprise au 20e siècle et l'église a été entièrement restaurée à la fin du 20e siècle.