В письменных источниках поселение под названием «двор Быхов» впервые упомянуто в грамоте князя Дмитра Cеменовича 31 мая 1393 г. В 1430 г. он находился во владении князя Свидригайло, перейдя затем в руки князей Гаштольдов. После угасания этого рода в 1542 г. Быхов оказался у могущественных магнатов Ходкевичей. Им он принадлежал до 1625 г., перейдя затем по наследству к Сапегам.

Поселение возникло на правом берегу Днепра недалеко от слияния с ним речушки Мокранки и с этой стороны оно было надежно защищено природой.

В 1590 г. владелец Быхова Ян Ходкевич, занимавший должность гетмана Великого княжества Литовского, получил от короля грамоту на постройку здесь Каменных замковых укреплений, которые сменили деревянные. При Карле Ходкевиче, в 1610--1619 гг., строительство было продолжено и завершилось при Льве Сапеге, когда город получил мощную бастионную фортификацию. Громадный 800-метровый вал с бастионами, равелинами и рвом в виде полукруга надежно защищал Быхов и принес ему славу неприступной цитадели.

Быхов, близко расположенный к тревожному порубежью, беспокойной казачьей Украине, неоднократно переживал военные потрясения. Однако захватить сильно укрепленный и хорошо вооруженный город было очень сложно. Известно, что лишь в 1590 г. «низовые казаки» донского гетмана Матюши Федоровича захватили «место Быховское, наехавши гвалтовне...». Однако в 1648 г. восставшие украинские казаки и местные крестьяне во главе с Ф. Гаркушей уже не смогли взять ни города, ни замка.

В русско-польской войне середины XVII в. Быхов все время был камнем преткновения для обеих воюющих сторон. Сначала его 18 месяцев, с августа 1654 г., безуспешно осаждали украинские казаки под командованием И. и В. Золотаренко и войска князя А. Н. Трубецкого. При этом И. Золотаренко был убит. В городе разместились украинские казаки И. Нечая, который во второй половине 1658 г. изменил русскому царю и перешел на сторону польского короля. В результате Быхов снова оказался с мая по декабрь 1659 г. в осаде. Он был взят 4 декабря в ходе ночного штурма войсками князя Лобанова-Ростовского, которому удалось склонить к капитуляции коменданта замка немца Шульца. В ходе осады город и замок сильно пострадали, особенно замок, где взорвался арсенал. Однако уже в 1660 г. царские войска сами оказались осажденными и в декабре 1661 г. сдались войску гетмана Чарнецкого.

В годы Северной войны на Быхов обрушились новые беды. Его владелец К. Сапега перешел на сторону С. Лещинского и Карла XII. В результате союзное войско короля Августа II и Петра I дважды подвергало осаде город. В многомесячной осаде 1701 г. успех был достигнут благодаря громадной пушке, привезенной из Могилева. На один заряд в нее шло сразу три пуда пороха. Командовавший осадой генерал Синицкий имел хорошего бомбардира, который многопудовыми начиненными «бомбами сильно здания городские ломал и разрушал». В результате город сдался, правда, на почетных условиях: мещанам сохранили все вольности и привилеи.

Затем, спустя некоторое время, Синицкий перешел на сторону противника, сделав Быхов своим главным опорным пунктом. После того, как его солдаты ограбили русскую армейскую казну, доставлявшуюся к месту дислокации полков Петра I, царь двинул против сильно укрепленного Быхова войска своих генералов Боура, Чамберса, Фонвердена и Волхонского. Население города не поддержало мятеж, однако под угрозой суровых репрессий было вынуждено занять боевые позиции. Синицкий не смог удержать город и капитулировал. В результате вся быховская артиллерия числом не менее 30, а также 15 пушек, взятые Синицким из Могилева, были судами отправлены в Киев. В городе на протяжении семи с лишним лет находился русский гарнизон. При отступлении были приведены в негодность брамы, взорваны бастионы.

Спустя некоторое время Сапеги восстановили укрепления, артиллерийский парк заново пополнился новыми орудиями. По сведениям за 1751 г., здесь все еще насчитывалось 20 пушек, сохранялось мещанское и шляхетское ополчение. В замке в 1757 г. имелся гарнизон из 50 человек «жолнеров», одного капрала, двух ефрейторов и двух барабанщиков. Все они были местными жителями, набранными из Старого и Нового Быхова и служившими на условии пользования земельными наделами. С присоединением Восточной Белоруссии к Российской империи Быхов утратил свое стратегическое значение, а его укрепления с течением времени пришли в упадок.