Олексій Іванович Тихий народився у 1927 році на хуторі Їжівка Костянтинівського району Донецької області. Закінчив філософський факультет Московського держуніверситету (хоч до цього навчався в Запорізькому сільгоспінституті та Дніпропетровському інституті інженерів транспорту). Вчителював, викладаючи фізику, математику, українську мову.
Уперше він був заарештований КДБ у 1948 р. за критику єдиного кандидата в депутати, але після «профілактики» був відпущений.
З 1950 року працював учителем біології у Новокостянтинівській школі (тепер Приазовського району Запорізької області). З 1953 року мешкав у селі Рубцове (тепер Лиманського району Донецької області), викладав у школі. З 1954 року — вчитель історії у рідному селі.
Вдруге заарештований у 1957 р. за «антирадянську агітацію», «наклеп на КПРС і радянську дійсність». Приводом послужили лист до Верховної Ради УРСР та стаття в газету, в яких Тихий засуджував введення радянських військ в Угорщину та критикував радянську виборчу систему. Тоді Тихий був засуджений на 7 років таборів суворого режиму і відбув покарання в Мордовії, а один рік – у Володимирській тюрмі.
Після звільнення за вироком суду на 5 років Олекса Тихий був уражений в правах, отже, працювати за фахом не мав можливості: працював монтажником, пожежником, випалював цеглу. Водночас підтримував стосунки з друзями по ув’язненню і правозахисниками, поширював самвидав. Тихий був зразковим носієм української літературної мови, людиною залізної волі, рідкісної толерантності, доброзичливості і виняткової терпимості.
На той момент він був автором кількох статей про русифікацію Донбасу, про проблеми українського села. У січні 1972 року Тихий надіслав до редакції газети «Радянська Донеччина» статтю «Роздуми про українську мову та культуру в Донецькій області», а на початку 1973 — до Президії Верховної Ради УРСР листа під назвою «Думки про рідний донецький край» (у квітні листа було відправлено на адресу Голови Президії Верховної Ради УРСР І. Грушецького). У 1974 році написав нарис «Сільські проблеми» та роздуми «Ви і ми», в яких виступив проти процесу русифікації та на захист української мови. У листопаді 1976 року Тихий разом з М. Руденком, О. Мешко, П. Григоренком, Л. Лук’яненком, О. Бердником та іншими виступив членом-засновником однієї з найперших правозахисних асоціацій — Української громадської групи сприяння виконанню Гельсінських угод і підписав перші документи УГГ — «Декларацію Української громадської групи сприяння виконанню Гельсінських угод» та «Меморандум № 1».
Також він склав словник неправильностей українських говорів Донбасу й уклав збірку висловлювань видатних людей «Мова – народ». Текст цієї збірки було вилучено у Тихого під час обшуку в червні 1976 р., при чому дві доби його утримували тоді під вартою «за підозрою в пограбуванні магазину».
Літературна і правозахисна діяльність Тихого стала причиною його другого арешту на початку лютого 1977. Справу Тихого було об’єднано зі справою колишнього секретаря парткому Спілки письменників України М. Руденка. У червні-липні 1977 року під час судового процесу («процес по справі Руденка-Тихого») в Дружківці (Донецької області) Олексія Тихого було звинувачено в «антирадянській агітації і пропаганді» та у «незаконному зберіганні зброї» (було підкинуто гвинтівку). 21 липня 1977 року оголошено вирок: за ст. 62 ч.2 КК УРСР Тихого позбавлено волі на 10 років з засланням на 5 років та за ст. 222 ч. І — на 3 роки; остаточно — 10 років позбавлення волі у виправно-трудовій колонії особливого режиму з засланням на 5 років. Суд визнав його «винятково небезпечним рецидивістом». Місцем покарання визначено табір особливого режиму ЖХ-385/1, с. Сосновка в Мордовії, звідки його етапували до лікарні в м. Нижній Тагіл.
На захист Тихого виступили визначні правозахисники Петро Григоренко, Андрій Сахаров, Левко Лук’яненко, Олександр Подрабінек та інші.
В ув’язненні Тихий бере активну участь в акціях протестів, зокрема, він 52 дні тримав голодування навесні 1978 р. Влітку 1978 р. разом з Василем Романюком вони написали текст «Історична доля України. Лист українських політв’язнів. Спроба узагальнення», де було висловлено побажання незалежності України в майбутньому та ідея пасивного опору, зокрема, у формі неучасті в русифікації.
У березні 1980 р. Тихого перевели у табір особливого режиму для політв’язнів у с. Кучино (Чусовський район Пермської області, Росія). Кілька разів оголошував голодування (найдовше — 52 дні). Незважаючи на важкий стан здоров’я, Тихий провів у штрафному ізоляторі з невеликими перервами близько 40 діб. Карали його за те, що він, за словами адміністрації, зривав нагрудний знак, не вставав, коли заходило начальство, відмовлявся від роботи, погано впливав на оточення. При цьому скаржитись на здоров’я йому не дозволялось. Так само після етапування на Урал йому довелось провести 6 місяців у ПКТ (приміщення камерного типу) за порушення режиму, і він знову тримав голодування. У нього відкрилася виразкова кровотеча. В критичному стані, перед операцією, він отримав пропозицію письмово зректися колишньої діяльності, але відмовився від цієї пропозиції. Операцію було зроблено не надто вдало – рух їжі спричинював біль, утворилися спайки, грижа, згодом розпочався перитоніт. Але і в цих обставинах Тихий відмовився писати покаянну заяву.
У 1982 р. у США вийшла книжка: Олекса Тихий «Роздуми». На останнє побачення в квітні 1984 р. з сином Володимиром і дружиною Ольгою Олексу Тихого вели попід руки, але він тримався, посміхався. Помер 6 травня 1984 у тюремній лікарні Пермі.
Постановою Пленуму Верховного суду УРСР від 7 грудня 1990 року вироки щодо Тихого скасовано і справу закрито «за відсутністю складу злочину».
Останки Тихого разом з прахом Василя Стуса та Юрія Литвина перевезені в Київ і 19 листопада 1989 р. з великим почестям поховані на Байковому цвинтарі. Указом Президента України від 8 листопада 2006 р. за громадянську мужність, самовідданість в боротьбі за утвердження ідеалів свободи і демократії і з нагоди 30-ї річниці створення Української Громадської групи сприяння виконанню Гельсінкських угод нагороджений орденом «За мужність» І ступеня (посмертно).