Форт Кэрролл был построен в конце 1840-х годов для защиты города Балтимор от морских атак. Но, как и многим фортам того времени, этот потенциал ему так и не удалось реализовать. Основание искусственного острова было спроектировано в виде бетонного шестиугольника, окружающего центральный двор с большими орудийными установками, обращёнными к наиболее удобному для нападения углу.
Вооружение форта было усилено во время испано-американской войны, но так и не было использовано, а к началу Первой мировой войны форт и его орудия потеряли свою актуальность, поэтому в 1921 году он был официально заброшен и лишён вооружения.