Рой Джонс (младший) родился 16 января 1969 года в небольшом городке Пенсакола в штате Флорида. С самого детства его отец, Рой Джонс старший (или, как его часто называют, «Большой Рой» — Big Roy), в прошлом профессиональный боксер, пытался привить Рою любовь к боксу, он хотел вырастить чемпиона, которым самому ему не суждено было стать. Но только с 10 лет Рой начал заниматься боксом. Имея вес не более 32 кг, Джонс побеждал 14-летних соперников, весом килограмм под 40. В 11 лет он выиграл турнир Золотые Перчатки штата Алабама (отправив соперника по финалу в нокаут ударом по корпусу), а затем еще четыре года подряд повторил этот успех. В 1982 г. Джонс одержал в рамках турнира «Sunshine State Games» победу по очкам над человеком, который доставит ему в будущем большие неприятности в профессионалах. Им был его ровесник Антонио Тарвер. В 1984 году Джонс выигрывает Юниорские Олимпийские игры в США, а еще через два года выигрывает престижный национальный турнир США «Золотые перчатки» в весе до 54 кг, победив в финале по очкам Виктора Левина. Еще через год он повторно завоюет этот титул, но уже в весе до 71 кг, одолев в финале Рэя МакЭлроя.
Конечно, в любительской карьере, как и у большинства боксеров, были и поражения. Так, в 1986 году Рой проиграл по очкам в полуфинале Игр доброй воли советскому боксеру Игорю Ружникову. Еще одно известное поражение случилось, когда он пытался третий год подряд выиграть национальные Золотые Перчатки. В предварительных встречах Джонс одержал победы в трех встречах, в том числе победил Томаса Тейта (по очкам) и чемпиона США в весе до 165 паундов Фабьена Уилльямса (нокаутом в третьем раунде). В полуфинале же ему выпало встретиться с Джеральдом МакКлелланом. Все три раунда прошли в высоком темпе с большим количеством ударов с той и с другой стороны, но в результате все пятеро судей посчитали, что лучше выглядел МакКлеллан (по словам известного тренера Эммануэля Стюарда, у него сохранилась запись того боя, однако подтверждения этого пока нет). Однако победителю досталось от Джонса так сильно, что он больше месяца после этого не участвовал даже в спаррингах, из-за того, что у него болела челюсть после ударов Роя. Также Джонс упоминал в интервью после второй встречи с Тарвером, что одно из его поражений в любителях было нокаутом, но не сказал, кому именно он тогда проиграл.