Родился 12 июля 1959 года в Москве. В 1981 году окончил Московский институт инженеров транспорта, факультет технической кибернетики, специальность – инженер-системотехник, курс программирования ЭВМ.
В период с 1981 по 1986 год работал в Вычислительном центре при Всесоюзном научно-исследовательском институте железнодорожного транспорта.
В 1986 году стал соавтором одной из первых российских книг о персональных компьютерах (С. М. Захаров, А. М. Карачинский. Персональные компьютеры. – Москва, Транспорт, 1986).
С 1986 по 1989 год занимал должность менеджера по продажам компьютерного оборудования в России в компании Prosystem (Австрия).
В 1989–1992 годах был техническим директором совместного австрийско-российского предприятия «Интермикро», в состав которого входил Госкомитет по информатике и вычислительной технике. «Интермикро» стало крупнейшим в России совместным предприятием в области компьютерных технологий.
В 1991 году американский инвестор Росс Перо проявил интерес к приобретению «Интермикро». По итогам переговоров американская сторона предложила Анатолию Карачинскому создать собственную компанию. В результате из «Интермикро» вместе с ним ушло 12 человек. В 1992 году была основана компания IBS (Information Business Systems).
С 1992 года занимает пост президента компании IBS.
Начиная с 1995 года, возглавляет группу компаний IBS.
Принимал участие в становлении Российской ассоциации разработчиков программного обеспечения, где является членом правления; является членом Международного Компьютерного Клуба и общественного Реформ-клуба «Взаимодействие».
В декабре 1993 года получил награду Европейского центра маркетинговых исследований Европейского Сообщества за активный вклад в развитие международной коммерческой деятельности.
В 1994 году был удостоен европейской премии «Quality Management Award», отмечающей лучших руководителей Европы.
С 1994 года входит в рейтинг DATOR Top100, а с 1995 года – в рейтинг Top-profi, где Анатолий Карачинский признаётся одной из самых влиятельных фигур в российском компьютерном бизнесе.