En tant que militairte de l'Armée des Etats-Unis, il fut général pendant la Guerre Civile puis commandant militaire du Territoire du Dakota de 1866 à 1869 et de 1872 à 1886, le général Alfred Howe Terry joua un rôle important dans l'histoire militaire des Plaines du Nord.
Alfred Howe Terry est né le 10 novembre 1827 à Hartford au Connecticut. Il passa son enfance à New Haven. Diplômé de Yale Law School en 1848. Il devint avocat, et occupa le poste de secrétaire à la Cour Supérieure du comté de New Haven dans les années 1850.
Au plus fort de la Guerre Civile, Terry rassembla un régiment de volontaires du Connecticut et les mena à la première bataille de Bull Run. 
Il fut ensuite transferré en Caroline du Sud. Son grand intérêt pour l'histoire et les tactiques militaires, couplé à ses succès sur les champs de bataille, lui fit gagné, en avril 1862, le grade de brigadier général des volontaires et prit part à ce titre à de nombreuses opérations le long de la côte Sud de l'Atlantique pendant les années 1862-1863. Ainsi il participa aux opérations du siège de Charleston et de Morris Island en Caroline du Sud. Sous son commandement, ses soldats capturèrent Fort Wagner en septembre 1863.
Une fois le siège de Petersburg commencé Terry s'illustra dans les batailles au Nord de James River, surtout à la Bataille de New Market Heights.
Sa prise de Fort Fisher le 13 janvier 1865, avec la "United States Colored Troop"s ainsi que la division commandfée par Adelert Ames, lui valut d'être promu major general des volontaires et brigadier general dans l'armée régulière. Des renforts arrivèrent en février. Après la chute de Wilmington en Caroline du Nord, il participa aux opérations de la Campagne des Carolines.
Après la guerre, Terry resta dans l'armée. En 1868, il fut un des membres de la Commission chargée de négocier le Traité de Fort Laramie qui mit fin aux attaques de Red Cloud contre les troupes Américaines dans la région. Il fut le dernier gouverneur militaire du Troisième District Militaire basé à Atlanta à compter du 22 décembre 1869.
En 1873, Terry était l'officier de commandement de George Armstrong Custer. Il fut peu enthousiaste par l'action de Custer dans les Black Hills, celui-ci ayant déclenché une ruée vers l'or sur les terres des Lakotas, violant le traité de Fort Laramie. Cependant, il plaida sa cause auprès du Bureau des Affaires Indiennes, aidant à faire cesser la polémique.
Terry fut le commandant de la colonne de l'Armée des Etats-Unis marchant vers l'Ouest dans le Territoire du Montana pendant la Campagne Centennial de 1876-1877.
En 1876, Terry dirigea la campagne contre les Sioux, et mit en place une stratégie dite de "marteau et d'enclume" contre les tribus de Sitting Bull, avec le Septième Cavalerie de Custer et l'Infanterie de John Gibbon. Custer ne suivit pas le plan, précipitant ses troupes vers le désastre et sa propre mort à Little Bighorn. Une colonne de soldats sous son commandement arriva peu de temps après la bataille et découvrit les corps des hommes de Custer.
Le général Terry commanda le territoire du Dakota pendant la guerre des Nez Percés en 1877, et aida le général John Gibbon et le colonel Nelson A. Miles à emprisonner le Chef Joseph et son groupe. En 1881, Terry parvint à arrêter Sitting Bull.
En 1886, il fut promu major général, à la tête des Forces Militaires du Missouri, il était basé à Chicago.
Il se retira en 1888, et mourut le 16 décembre 1890 à New Haven au Connecticut où il est enterré au Grove Street Cemetery.