Urodził się 19 III 1787 r. w rodzinie oficera niepodległej jeszcze Rzeczypospolitej, w małej wsi Bohoniki leżącej niedaleko Sokółki. W rodzinnym szlacheckim domu pobierał pierwsze nauki. Ukończył gimnazjum pijarów w Wilnie i rozpoczął studia na Uniwersytecie Wileńskim. W owych czasach nauka na tej uczelni kwitła, rozsławiana przez badania takich uczonych jak Marcin Poczobutt-Odlanicki, Johann Peter Frank i Jędrzej Śniadecki. Ostatni z nich, Jędrzej, był wykładowcą młodego Józefa.

Studenta Skrodzkiego najbardziej interesowały chemia i fizyka. Po ukończeniu studiów w 1807 r. w „ojczystych stronach poświęcił się stanowi nauczycielskiemu”, pracując w publicznych szkołach na Litwie. W 1811 r. objął posadę profesora Liceum Warszawskiego. Wykładał fizykę, chemię i historię naturalną. W Warszawie przeżywał klęskę Napoleona pod Moskwą i faktyczny upadek Księstwa Warszawskiego. We wrześniu 1814 r. w celach naukowych wyjechał za granicę. Odwiedził ośrodki akademickie w Berlinie, Hadze, Londynie i Amsterdamie, gdzie – jak zaświadczał Kazimierz Wójcicki – „ze znakomitymi współczesnymi uczonymi znajomość zabrał, z ich nauk korzystał, i przez nich do uczestnictwa w kilku uczonych zgromadzeniach był powołany”.

Powrócił do nowo utworzonego Królestwa Polskiego w 1816 r. Uczestniczył w organizowaniu Uniwersytetu Warszawskiego. Już od stycznia 1817 r. jako zastępca profesora pomagał w „przysposobieniu sal uniwersyteckich” do „wykładów fizyki dawania”. W następnym roku został profesorem fizyki. Nauka wciągnęła Skrodzkiego bez reszty: „Czas wolny od prelekcji przepędzał bądź sam, bądź z uczniami w gabinecie fizycznym, na czynieniu doświadczeń i badań, nieraz dla osłabionego zdrowia jego szkodliwych”. Pracownia ta była mu drugim domem, zwłaszcza po 1824 r., gdy został dyrektorem Gabinetu Fizycznego Uniwersytetu Warszawskiego. W tym też roku uzyskał stopień doktora bez przedłożenia dysertacji, co było stosowane w przypadku „zasłużonych dla nauki mężów”. Mieszkał wraz z innymi profesorami w Gmachu Porektorskim.

Od 1823 r. był także dziekanem Wydziału Filozofii (do 1829 r.). W tym czasie sporo pisał i wygłaszał liczne odczyty naukowe. W 1821 r. wydał Rozprawę o trąbie powietrznej, a rok później wraz z Fryderykiem Skarbkiem i Kazimierzem Brodzińskim redagował bezcenny dla nauki polskiej „Pamiętnik Warszawski”. Korespondował z wieloma znanymi europejskimi fizykami, między innymi z André Marie Ampère’em. Zapewne echa tej korespondencji znajdziemy w takich odczytach jak: O budowie łańcuchów elektrycznych Volty i ich fenomenach elektromagnetycznych (1822). Historyk Królewskiego UW Józef Bieliński ponad sto lat temu podkreślał: „Wiele prac Skrodzkiego utonęło w pismach periodycznych lub też zaległo w rękopiśmie”. Być może Bieliński miał na myśli obszerne i pisane latami Wykłady fizyki. Nie doczekały się one wydania i po śmierci autora zaginęły.

Skrodzki był także członkiem Towarzystwa Przyjaciół Nauk oraz wykładowcą w kilku mniej znanych szkołach: w Szkole Aplikacyjnej Artylerii oraz w Szkole Szczególnej Leśnictwa. Dla tej drugiej napisał cenny artykuł Badania nad wytrzymałością niektórych gatunków drewna krajowego.

Jego talenty pedagogiczne i organizacyjne zostały dostrzeżone i 10 I 1831 r. Skrodzki został wybrany rektorem Uniwersytetu Warszawskiego. Jak donosiła „Gazeta Warszawska”, zwyciężył w drugiej turze wyborów: „W pierwszej Osiński i Szubert mieli równą liczbę kresek. Przy powtórnej, obrano rektorem pana Skrodzkiego”.

Czasy, w jakich przyszło mu być rektorem, nie sprzyjały nauce. Podczas powstania listopadowego kampus uczelni bardziej przypominał koszary niż miejsce edukacji. W insurekcji brało udział wielu profesorów i większość studentów. Na domiar złego nasilające się objawy gruźlicy sprawiły, że nowo wybrany rektor coraz częściej „słabował”. Na posiedzeniach rady naukowej głos odmawiał mu posłuszeństwa, a na jednym z nich po prostu zasłabł. Nie bacząc na sytuację polityczną, chory profesor jeszcze raz musiał wyjechać z kraju – tym razem nie w celach naukowych, ale „do wód”, żeby ratować podupadłe zdrowie. W czasie jego nieobecności powstanie upadło, a w listopadzie 1831 r. władze carskie zamknęły uczelnię. Instrumenty laboratoryjne z gabinetu fizycznego Skrodzkiego skonfiskowali carscy żołnierze, ale wbrew informacjom zawartym w Polskim Słowniku Biograficznym tylko niewielka część z nich została wywieziona do Petersburga.

Piszący w połowie XIX w. Kazimierz Wójcicki wspominał Skrodzkiego jako cierpliwego i pogodnego człowieka, nawet u schyłku życia: „Gdybyś go był widział na godzinę przed śmiercią, rzekłbyś, iż się uśmiecha do anioła śmierci, z którym ma odbyć pełną nadziei drogę do wieczności”. Tą drogą Skrodzki podążył 15 V 1832 r. Pozostawił w „nieutulonym żalu” żonę Ludwikę z Cichowskich (zmarła w 1839 r.) oraz dwójkę mniej więcej 10-letnich dzieci: córkę i syna. Gdy dorosną, wystawią na mogile rodziców pomnik. Po latach syn Eugeniusz zdobędzie sławę nie mniejszą niż uczony ojciec, zostanie bowiem literatem i wyda ok. 20 powieści.

Grób rektora Józefa Karola Skrodzkiego znajduje się na Cmentarzu Powązkowskim (kw. 20, rząd 6).