Первое поселение на месте Павловска было основано в 1685 году. Русское государство нуждалось в укрепленных пунктах для охраны своих южных границ, и в устье реки Осереди были поселены черкасы (украинцы) для сторожевой службы. Они следили за передвижениями крымцев, которые совершали регулярные набеги на южнорусские области.

В 1708 году Петр I приказал адмиралу Федору Матвеевичу Апраксину заложить в устье Осереди крепость, но в 1708 году началось восстание Кондратия Булавина, и основание крепости пришлось отложить. Крепость была основана в апреле 1709 года. После Полтавской битвы, в результате которой русская армия одержала решительную победу над армией шведского короля Карла XII, были взяты в плен более 16 тысяч человек. Три тысячи из них были направлены на строительство крепости и верфи.

В городе была основана судоверфь, на которой строили военные корабли для Азовской флотилии.

В 1711 году в город Осеред переведен гарнизон из Павловской крепости с северного берега Азовского моря. После неудачного для России Прутского похода сюда переселились жители отданных Турции городов Азова и Таганрога, а также Павловской крепости на реке Миусе. Со значительным притоком гражданского населения (только одних купцов сюда переселилось более 500 человек) в городе, к северо-востоку от крепости, начали формироваться селитебные территории — или «форштадт», как они именуются в исторической литературе. Формирование селитебных территорий в начале XVIII века, в отличие от других городов губернии, происходило по регулярному плану. Геометрически правильные кварталы прямоугольной вытянутой формы ограничивали прямые улицы, идущие вдоль водораздела и перпендикулярно Дону (направление юго-запад — северо-восток). Центральная, водораздельная улица (нынешний проспект Революции), начинавшаяся от городских восточных ворот, являлась той осью, вдоль которой разворачивалась вся композиция селитьбы. Купцы, выходцы из Казани, привезли с собой приходскую деревянную церковь Казанской иконы Божией Матери, которую немедленно установили в своей слободке и в том же 1711 году освятили.

В 1713 году из Таврова сюда было переведено Адмиралтейство.

В 1714 году Осередская крепость (иногда пишется: «город Осеред») была переименована в город Новопавловск, но название не прижилось, и в 1715 году город стал называться Павловском. Управлял городом обер-комендант. Павловск был сильной крепостью — его со всех сторон окружал дубовый палисад — и делился на 2 части: замок и форштадт. Гарнизон его составляли 5 пехотных полков и артиллерийская команда. Названия полков: Павловский, Тамбовский, Козловский, Коротоякский и Елецкий.

Петр I посещал Павловск несколько раз. Последнее его посещение датируется 1722 годом. Тогда он с женой возвращался из персидского похода и остановился в городе. Некоторое время здесь размещались резиденция царя, «государев зверинец» и сад с экзотическими для этих мест растениями.

Во времена правления Екатерины II для организованной российским правительством Донской экспедиции Адмиралтейств-коллегия возобновила строительство кораблей на Павловской верфи.

С середины XIX века Павловск постепенно приобретает славу промышленного и купеческого города на юге России.