L'histoire de l'église d'Arboucave repose sur des traditions difficilement vérifiables en l'état de la documentation conservée. Une première église portant déjà le vocable de Saint-Germain, supposément fondée au XIIIe siècle, existait autrefois au nord-est du bourg actuel, dans un lieu-dit isolé du même nom. Cette "chapelle", interdite au culte dès 1772, fut vendue entre 1809 et 1811. L'église du bourg, dont l'époque de fondation n'est pas connue, aurait, si on en croit les historiens locaux du XIXe siècle, été incendiée une première fois en 1415 lors de la campagne de reconquête française dans le Tursan (Arboucave fut l'une des quatre places reprises lors des offensives de 1404-1407). Selon une autre tradition, c'est l'église Saint-Germain qui aurait été incendiée vers 1313-1315 par Pierre de Castelnau, meurtrier du Bâtard d'Armagnac, Jean de Lescun (Soussieux, 2012, p. 37).

Il faut attendre plus d'un siècle avant que la communauté puisse procéder à la reconstruction de l'église du bourg vers 1540, avec l'aide de deux évêques successifs de Tarbes (et abbés de Divielle), les frères Antoine (1534-1539) et Louis (1539-1549) de Castelnau, membres de la principale famille feudataire du Tursan, en réparation supposée des déprédations de leur ancêtre Pierre. Il est possible que certaines portions du mur occidental de la nef, qui présentent des pierres rubéfiées, soient des vestiges de l'église incendiée en 1415. Toutefois, la porte à voussure brisée et bases prismatiques continues n'est pas incompatible avec une datation en 1540, si l'on tient compte de la pérennité des modes constructifs gothiques en milieu rural.

Trois décennies après sa reconstruction, l'église est pillée par les troupes protestantes du capitaine béarnais Abadie au cours de la campagne de 1569 puis, aussitôt après, "ruinée et démolie par des gens de la religion pretandue qu'ils n'ont seu nommer" (procès-verbal dit "de Charles IX", octobre 1571). En réalité, cette destruction ne fut probablement que partielle et l'essentiel de l'édifice actuel doit dater de la reconstruction du second quart du XVIe siècle. Les restaurations menées au cours des deux siècles suivants ne sont pas documentées. En 1885, on procède à des embellissements intérieurs (peintures murales par le décorateur bordelais Léonard Fortuné) et en 1902 à une réfection à neuf de la voûte et de la toiture (par l'entrepreneur Langlade d'Eugénie-les-Bains, sur un projet de l'architecte Abonneau). Les parties hautes de la tour-clocher sont régularisées et complétées dans la seconde moitié du XXe siècle.

Le cimetière autrefois situé contre le flanc nord de l'église a été supprimé dans la seconde moitié du XIXe siècle.