De 1973 à 1981, Hervé de Charette travaille dans plusieurs ministères. Il est successivement conseiller technique de Georges Gorse au ministère du Travail, de l'Emploi et la Population de 1973 à 1974[3], directeur de cabinet de Paul Dijoud au secrétariat d'État chargé de l'Immigration de 1974 à 1976[3], puis de Christian Beullac au ministère du Travail) de 1976 à 1978[3] et chargé de mission auprès de Jean-François Deniau au ministère du Commerce extérieur de 1978 à 1981[3]. En parallèle, il est conseiller juridique pour l'Établissement public pour l'aménagement de la région de la Défense (EPAD) de 1976 à 1981[3] puis président de la Société nationale de construction de logements pour les travailleurs (Sonacotra, future Adoma) de 1979 à 1981[3].
Après les législatives de 1993, il redevient ministre sous la deuxième cohabitation : il est ministère du logement dans le gouvernement Balladur[1]. Après son soutien à Jacques Chirac durant l'élection présidentielle de 1995, il reste au gouvernement mais détient désormais le prestigieux maroquin de ministre des Affaires étrangères[1]. En 1996, il se rend en Algérie peu après l'enlèvement des moines de Tibhirine et modifie en cours de route le programme de son voyage afin de pouvoir s'informer sur les circonstances du drame, en ne se donnant « qu'une seule priorité : retrouver les moines vivants »[9], modification à laquelle les autorités algériennes tentent de s'opposer. Philippe Étienne, directeur adjoint de cabinet d’Hervé de Charette, posera alors plusieurs fois la question : « L’affaire de l’enlèvement des moines est-elle une manipulation algérienne ? »[10].
Après la dissolution de 1997, à la suite de la défaite de la droite et de son départ du gouvernement, il siège de nouveau à l'Assemblée nationale jusqu'à sa défaite en . De juin à , il exerce l'intérim, en qualité de doyen d'âge, du groupe parlementaire Nouveau Centre, entre la nomination au gouvernement de François Sauvadet et l'élection d'Yvan Lachaud.
En , après avoir soutenu Jacques Chirac lors de la présidentielle faute de candidature de Valéry Giscard d'Estaing[1], il fonde le Parti populaire pour la démocratie française (PPDF), rattaché à l'UDF, devenu Convention démocrate en 2002 lors de son intégration comme un club de l'UMP. Le siège de ce parti destiné à rassembler les Giscardiens est situé à Saint-Florent-le-Vieil.
En , il est élu président de la Chambre de commerce franco-arabe, succédant à Pierre Rozek[19]. En 2012, sa gestion est critiquée par plusieurs pays membres[20].
Les enjeux méditerranéens : l'eau, entre guerre et paix, Paris/Budapest/Torino, éditions L'Harmattan, coll. « Cahiers de la Convention démocrate », , 224 p. (ISBN2-7475-6091-0)
Hervé de Charette, Dominique Paillé et Éric Helard, La lutte contre la contrefaçon : Comment défendre notre patrimoine industriel et intellectuel ?, Paris/Budapest/Torino, éditions L'Harmattan, coll. « Cahiers de la Convention démocrate », , 216 p. (ISBN2-7475-6627-7)
Hervé de Charette, Dominique Paillé et Éric Helard, Recycler pour une économie durable et solidaire : Colloque du 16 juin 2003, éditions L'Harmattan, coll. « Cahiers de la Convention démocrate », , 128 p. (ISBN2-7475-5361-2)
Christian Philip, Hervé de Charette et Commission des affaires étrangères, Rapport d'information sur le rôle de l'Union européenne dans la solution du conflit au Proche-Orient, Paris, Assemblée nationale, , 55 pages (ISBN2-11-117731-8)
Rapport d'information sur le suivi des négociations d'adhésion de la Turquie à l'Union européenne, Paris, Assemblée nationale, , 79 p. (ISBN2-11-121670-4)
Hervé de Charette et Éric Helard, La sécurité alimentaire : entre précaution et responsabilisation, Paris/Budapest/Kinshasa etc., éditions L'Harmattan, coll. « Cahiers de la Convention démocrate », , 224 p. (ISBN2-7475-9653-2)
Après Outreau, quelle réforme de la justice pénale ? : Grand débat national sur la justice, Paris/Budapest/Kinshasa etc., éditions L'Harmattan, coll. « Les Cahiers de la Convention démocrate », , 149 p. (ISBN2-296-00720-1)