Le château a été construit en 1410 par le seigneur de Lerse, en carré comme une petite place-forte, et est resté en propre dans la même famille. Les coquilles Saint Jacques, ciselées des deux côtés de la porte, témoignent que le château se trouvait sur la route de St. Jacques de Compostelle et accueillait les pèlerins.
L'ensemble se situe au milieu de 105 hectares, dont 1/3 de forêts, 1/3 de champs et 1/3 de prairies pour le besoin des vaches.
La particularité de ce château est d'avoir toujours appartenu à la même famille du XVe au XXe siècle. Souvent transmis par la descendance féminine, divers noms se rattachent à son histoire : les Dexmier de L'Herse au XVe siècle, les Lubersac aux XVIe et XVII' siècles, les Des Gentils aux XVIII et XIXe siècles et les Lafargue au XXe siècle.
En 1761, Pierre Bourderon lève le plan du Logis Noble de L'Herse y compris la métairie et jardin. Ce plan, conservé au château, nous montre les trois bâtiments toujours existants, plus un quatrième, disparu, finissant de clore la cour.
Le principal corps de logis est flanqué de deux tours couvertes en poivrière. Il a perdu sa haute couverture en tiers-point, remplacée sur une partie par un toit à la Mansart et sur le reste par une couverture à deux pentes. Au premier étage, on voit encore une baie avec traverse et appui saillant mouluré. L'ancien portail d'entrée dans la cour s'ouvre dans un bâtiment situé à l'est. La porte en arc surbaissé est surmontée de mâchicoulis et était défendu par des bouches à couleuvrines disposées latéralement.
La fuie, figurant sur le plan à l'extrémité sud-est du jardin à la française, existe encore en bordure de l'allée menant au château.