面對(duì)清軍的大兵壓境，小刀會(huì)最大的勢(shì)力陳阿林部還是做出了妥協(xié)，默認(rèn)小刀會(huì)歸附太平天國，自己雖然不認(rèn)可但也不公開反對(duì)。
劉麗川舉起太平天國大旗，自封為太平天國討招大元帥，并派人前往南京向洪秀全遞交愿意歸附的信件。另外羅大綱下達(dá)了所有小刀會(huì)成員必須全部將所搶的錢財(cái)上交，統(tǒng)一使用，不愿意繼續(xù)跟著小刀會(huì)守城的人員，發(fā)放十兩銀子路費(fèi)回家，但所搶錢財(cái)必須留下。
陳阿林主動(dòng)配合了這一方針，當(dāng)然羅大綱也和他做了內(nèi)幕交易，他把搶來的二十萬兩庫銀上交劉麗川，之后劉麗川又把這錢已發(fā)放軍餉的由頭重新還給了他。但其他小幫主上交的錢就不全部退還了，一些不義之財(cái)直接沒收。
就這樣經(jīng)過羅大綱一番整頓，上?？h城內(nèi)的軍紀(jì)煥然一新，雖然又流失了一部分成員，但留下來的都是心里想做一番事業(yè)，鐵了心和清廷造反的，那些投機(jī)分子則主動(dòng)選擇了離開。
話說那李咸池通過賣人質(zhì)，發(fā)了財(cái)，三千兩銀子發(fā)了軍餉，還有五千兩銀子他打算私吞了。但羅大綱一到來，讓他美夢(mèng)無法成真，他暗中派親信去租界碼頭買船票，準(zhǔn)備帶著錢一走了之。
可他萬萬沒想到，楊小山通過阿富阿貴和城里的羅大綱取得了聯(lián)系，并把李咸池那筆銀子的事告訴了羅大綱。羅大綱每天都在等李咸池上交這筆錢，結(jié)果他遲遲不交。
這一天夜里，李咸池和幾名親信偷偷流出上?？h城，來到租界，準(zhǔn)備逃回他的福建老家。
天蒙蒙亮，他迫不及待的準(zhǔn)備登上前往泉州的船。
“李咸池，你往哪里跑？”李咸池萬沒想到城里城外楊小山和羅大綱早就布好了人，監(jiān)視他的動(dòng)向。
一直等到他準(zhǔn)備登船，抓了他一個(gè)人贓并獲。因?yàn)槔钕坛禺吘故莻€(gè)幫會(huì)頭目，防止他下面的人不服，必須有鐵證才能辦他。
這一下人證物證聚在，他的親信招供了李咸池打算攜帶錢財(cái)逃跑，他懷里的五千兩銀票和前往福建的船票都是鐵證。
羅大綱對(duì)著他的手下，出示了這些證據(jù)。他的手下是義憤填膺，想不到自己的幫主藏了這么多錢就把他們丟下不管了。憤怒的人群沖了上來，對(duì)著李咸池就是一頓拳打腳踢，他們紛紛高喊“死刑！”
于是羅大綱順應(yīng)大家的意愿，把李咸池當(dāng)眾砍了，以肅軍紀(jì)。
經(jīng)過一番整頓，小刀會(huì)的成員終于團(tuán)結(jié)了起來，但很快清軍的水軍，首先到了上?？h城的小東門。
這一支清軍由總兵泊承升帶領(lǐng)，十多艘戰(zhàn)船，其中還有四五艘炮船，打算轟開小東門。
水軍出身的羅大綱毫不示弱，率領(lǐng)七八條義軍的小船應(yīng)戰(zhàn)。他非常沉著，指揮小船快速在清軍大船中間穿插，并丟擲火瓶。
清軍戰(zhàn)船濃煙滾滾，損失嚴(yán)重，數(shù)百人落水。剩余的船只被羅大綱引誘到小刀會(huì)炮臺(tái)的射程內(nèi)，又被擊沉數(shù)艘。
這一下清軍的船隊(duì)全亂了，羅大綱抓住戰(zhàn)機(jī)重新反擊。重創(chuàng)清軍戰(zhàn)船，并俘獲了一艘炮艦。
清軍總兵實(shí)在沒有辦法，帶領(lǐng)殘軍敗將逃入外國碼頭，這才躲過一劫。但經(jīng)過這一戰(zhàn)，清軍的水軍被殺得完全沒有了戰(zhàn)斗力，再也不能單獨(dú)出戰(zhàn)了。
但上?？h城的危機(jī)依舊沒有解除，清軍巡撫吉爾杭阿和總兵虎嵩林率領(lǐng)一萬多清軍包圍了上?？h城。
并在縣城西北發(fā)起進(jìn)攻，先頭部隊(duì)幾百人吶喊著向起義軍沖擊，拋擲大量的火球等其他投擲物，然后樹起云梯登城，已有七八人登上了城墻，同時(shí)大量清兵沖出軍營，用火絹槍、火銃和其他武器向城墻射擊。起義軍吹響螺號(hào)，在羅大綱等人的指揮下奮勇還擊，向敵人投擲火彈、火罐、灰包和巨石，戰(zhàn)斗非常激烈。
登城的敵人很多打得墜落下去，已上城墻的敵軍寡不敵眾，當(dāng)場(chǎng)被擊斃數(shù)人，其余見勢(shì)不妙，跳墻而逃。在起義軍的猛烈火力攻擊下，敵人只得撤退。與西北面清軍相呼應(yīng)，南面清軍也展開攻勢(shì)，重炮轟城，轟塌城垛多處，并施放火箭，點(diǎn)燃城上的起義軍帳房。
與此同時(shí)，總兵泊承升率領(lǐng)剩下的戰(zhàn)船，在小東門碼頭一帶，向起義軍炮臺(tái)偷襲。起義軍以炮火還擊，炮聲轟轟，連綿不絕，一直持續(xù)了幾個(gè)小時(shí)，最后敵船退往蘇州河口。
這一天，起義軍經(jīng)過浴血奮戰(zhàn)，打退了敵人從三個(gè)方面的進(jìn)攻，保住了上海縣城。
但清軍不甘心失敗，在城西四明公所內(nèi)偷偷修筑炮臺(tái)，運(yùn)來一門門強(qiáng)火力的大炮。同時(shí)清軍又在營盤內(nèi)造好許多高臺(tái)，與城墻一般高，頂上作成傾斜面，以便作戰(zhàn)時(shí)把這些高臺(tái)放在城墻邊登城。清軍還在高臺(tái)上面演習(xí)攻擊，這些高臺(tái)，實(shí)際上是一種較穩(wěn)固的云梯。經(jīng)過一番準(zhǔn)備和策劃，清軍開始了大規(guī)模的連續(xù)攻城。
四明公所的炮臺(tái)安裝完畢，清軍便發(fā)炮轟城，同時(shí)在縣城的北門和南門外攻城，起義軍頑強(qiáng)抵抗，打退了敵人的一次次進(jìn)攻，打死敵人19人，打傷多人。
次日大霧彌漫，清軍攜帶云梯、噴筒，準(zhǔn)備乘霧襲擊縣城，起義軍也裝扮成清軍模樣前往襲擊四明公所炮臺(tái)，兩軍相遇展開激戰(zhàn)，起義軍邊戰(zhàn)邊退，直到日出霧散，才返回城中。這次戰(zhàn)斗，起義軍擊斃清軍千總陳鎮(zhèn)川等人，打傷數(shù)十人，自己也有些損失。
之后連續(xù)幾日，清軍從北面、西面和南面向上?？h城發(fā)動(dòng)全面攻擊，在兩個(gè)小時(shí)內(nèi)耗盡所有彈藥。起義軍在多于自己數(shù)十倍敵人的攻擊下，英勇地堅(jiān)守著陣地，向清軍發(fā)起數(shù)次沖鋒，最后打退了清軍的進(jìn)攻。
清軍連續(xù)七晝夜的進(jìn)攻，妄圖奪取上?？h城，在起義軍的嚴(yán)密防守和猛烈反擊下，清軍屢遭失敗。
清軍惱羞成怒，在城郊的燒殺搶掠，犯下了滔天罪行。上?？h城東郊，原是繁華的商業(yè)區(qū)，民房店鋪棧號(hào)相連。吉爾杭阿指揮清軍在這里放火，使小南門至大、小東門一帶的2000多間房屋被燒毀。原來人煙稠密，非常富庶的東郊，竟變成凄涼無人的地帶了。清軍趁火搶劫，大批贓物被他們無恥侵占，發(fā)了一筆戰(zhàn)爭(zhēng)財(cái)。
經(jīng)過這么多天的猛攻，清軍都不能攻破上海縣城，通過戰(zhàn)場(chǎng)的磨練和羅大綱等將領(lǐng)的指揮，小刀會(huì)的起義軍也迅速成長(zhǎng)起來，不再是一支孱弱不堪的隊(duì)伍，而是一支意志堅(jiān)定，能打硬仗的軍隊(duì)。