Wi-CAT LLC

Wireless Comprehensive Advanced Technology. Build your network now.

Wi-CAT LLC
Навигация Форума
Вы должны войти, чтобы создавать сообщения и темы.

(не баг, особенность ExFAT в Linux. Решение - используем Ext4 для файлсервера) Запись больших файлов по сети на exFAT

Добрый день

Роутер Fibertool FT-AIR-DUO-G  , опробовано на ПО 4.2.12 и 4.2.11

Диск с фйловой системой exFAT подсоединен к USB и к нему настроен доступ через SAMBA.

Файлы размером больше 13Gb (может это будет справедливо и для файлов меньшего размера) не записываются на диск по сети с компа под Win10. После начала копирования файла чрез некоторое время выдается "ошибка записи" и процесс далее не идет . Причем , на самом диске роутера этот файл создается и постепенно увеличивается (прошу заметить, что копирование в это время на компе уже отменено) до размеров оригинального файла , при этом,  в это время передача данных по сети от компа к роутеру не происходит - проверял через Task Manadger , а также физически разрывал сеть. Пробовал на HDD и FLESH отформатированных под exFAT.  Transmission без проблем качает файлы большого размера на диск с exFAT , проблема только с передачей больших файлов от компа к роутеру. Файл размером 1,4GB записался без проблем от компа на диск роутера.

 

 

Файлы размером больше 13Gb (может это будет справедливо и для файлов меньшего размера) не записываются на диск по сети с компа под Win10.

По воздуху? По проводу? Скорость при этом какая?

Transmission без проблем качает файлы большого размера на диск с exFAT

Проверьте по FTP ибо если бы проблема была бы в extFAT то и трансмишн бы обломался.

Я конечно посмотрю. Но мой вам совет. Купите NAS. Если MS сломает совместимость с SMB2 в самбе из 3ей ветки то я с этим в вашей железке уже ничего сделать не смогу, т.к. под 4ю самбу места на флэше нет.

Файловые сервисы в роутерах всегда существуют по остаточному принципу, а в операторских решениях добавлены исключительно благодаря тому что в тендерах обозначены.

Да ещё не забывайте, памяти в роутере кот наплакал. Если вы будете тянуть стопку файлов торрентом да ещё с шифрованных пиров, да включите фильтр рекламы и решите жирное что-то скачать параллельно с самбы, то скорее всего вас ждёт тот самый товарищ обломов. Просто процесс (какой-то из) будет отстрелен по ООМ.

Роутер должен роутить. Файловыми сервисами занимается NAS. Ибо под сегодняшние хотелки с торрентами и прочим с дикого размера файлами, тотальным шифрованием и т.д. 256Мб мало, как и куцего CPU.

P.S. Лог после обрыва нужно показать как минимум. В соседнюю тему "прочти меня" на тему как составлять репорты и какую информацию обязательно предоставить тоже почитать будет не лишним.

По конфигу. Зачем отключили dnsmasq? Зачем отключили аппаратное ускорение ната? И т.д. и т.п.

Сбросьте настройки, и настройте только то что  нужно, т.е. подключение к провайдеру + wifi. Ну и самбу с трансмишн, остальное не трогайте.

ipt_account=1

Эккаунтинг будет жрать раму и CPU да так что не удивлюсь что самба в ноги себе стреляет.

Поумерьте аппетиты. Стоит отказаться от экаунтинга и вернуть назад оффлоады. Ну или оставить экаунтинг  и купить NAS куда унести торрент и прочие файловые сервисы.

Остальные настройки вообще трогать не нужно.

Как и USB режим переключать с 2.0 без нужды. Т.к. ничего это вам не даст кроме наводок на 2.4ГГц модуль. Увы.

В общем сброс, настройка по минимуму и аппетиты по торренту поумерить или вообще остановить на время проверки самбы. Лог после обрыва (полный) сюда. Возможно будет видно по какому событию (таймаут/нехватка рамы и т.д.) передача обрывается.

По воздуху? По проводу? Скорость при этом какая?

И по воздуху и по проводу. Скорости никакой , такое ощущение что идет резервирование места на диске роутера  и потом получается какой-то конфликт, в результате чего виндовс не может передать файл.

P.S. Лог после обрыва нужно показать как минимум. В соседнюю тему "прочти меня" на тему как составлять репорты и какую информацию обязательно предоставить тоже почитать будет не лишним.

Читал . Думаю что проблема общая для всех устройств на Wive-NG-HQ, поэтому не стал с логом "заморачиваться" , да и диск уже отформатирован под ex4 и  все работает хорошо .  

Роутер должен роутить. Файловыми сервисами занимается NAS.

Не спорю . Но возможность NAS есть в роутере и из-за нее он в основном и покупался . Мне много от него не надо , держу на нем мультфильмы и сериалы которые просто включаю на телеке для фона. 

По большому счету прошивка и роутер отличные , со своими задачами которые я на них  возлагаю справляются на ура .

 

да и диск уже отформатирован под ex4 и  все работает хорошо .

Нативная FS менее жруча до ресурсов всяко. Я не в курсе где и во что вы упёрлись. Хрустальный шар тоже молчит. В логах могло было быть что-то. 10й винды под рукой нет, когда будет не в курсе.

А то буду с каждым выходом новой прошивки тестировать роутер на предмет работы с exFAT )

Дело ваше. У меня нет в планах каких-либо правок по этому функционалу и тем более по поддержке не нативных FS. Особенно в условиях множественного доступа, куцих ресурсов и т.д. Если время лишнее есть я не могу вас отговорить тратить его на всякую ерунду.

Я свое время ценю несколько выше чем стоит NAS который под это и заточек.

Сейчас тонна платформ за копейки которые в разы лучше подходят для реализации качалок и NAS (даже если хочется странного), от всяких надобуков БУ с авито, то STB с тонной рамы и многоведерными CPU под андоидом где самбы и торренты прям с плеймаркета разворачиваются.

При этом народ настырно насилует роутеры. ЗАЧЕМ:????

Ай. Это вопрос риторический. Всегда стараюсь настаивать что бы заказчик (благо ISP ЦА) не выдумывал USB и торрентов на этих железках. Но вот...

Мне много от него не надо

Открою тайну. Файловые сервисы с файлом в десятки и сотни гигов на платформе с 256Мб где половина занята первоочередными сервисами, да и cpu вы заняли тем что отрубили оффлодаы, ткнули экаунтинг и торрент. В итоге дискового кэша шиш, cpu занят и т.д.  Это мало? =)) Ну ну.

Никаких гарантий по функционированию в режиме NAS тут не дать.

Как и в части совместимости с не нативными FS. Стоит что-то поменять MS в части формата и приплыли, привет любым тараканам.

Можно героически превозмогать и решать эти проблемы, но на кой оно нужно я ХЗ.

Я вот когда мне нужно  гвоздь забить беру молоток, а не плоскогубцы. И тем более не покупаю плоскогубцы когда нужен молоток. =)

Для хрустального шара..

Как только флешка была вставлена сразу запустил копирование файла

Ошибок не видно. Я даже не удивлюсь если у этой реализации ExFAT есть какие-либо ограничения в  т.ч. на размер файла. Будет под рукой всё необходимое - попробую повторить и посмотреть на сборке с включенным дебагом.

Сейчас под рукой нет даже накопителя > 8Гб который задейтствован в автотестах.

 

Могу предложить сделать следующее cat /dev/zero > /media/sda1/zeroimg и подождать когда запись прекратиться. После этого глянуть размер получившегося файла. Дабы убедиться что трабла именно в реализации exfat.

Файлы >13Гб записанные туда под виндами нормально до конца читаются?

Вообще практически на 100% уверен, что перестаёт хватать рамы и драйвер просто прекращает запись возвращая ENOMEM.

Файлы >13Гб записанные туда под виндами нормально до конца читаются?

И читаются и копируются с роутера нормально . 

Не пишутся на роутер файлы 2Гб и более , только что проверял

Уже 2Гб? =) Было же 13? Локально пишутся. Выше как проверить записью с /dev/zero говорил.

Ну 2Гб я сейчас проверю. Правда не из под винды. Нет её рядом. Не пахнет даже ;)

Ну вот льётся. Причём льём по воздуху с одного самба сервера на целероне + ext4, на ExFat на флэшку в роутере подключенный проводом. ;)

Уже явно больше 2Гб скопировалось.

Дождёмся окончания.

Ага. Поймал. Ок. Дойдут руки попробую задебажить. Примечательно что залилось ровно половина.

Да. похоже я оказался прав насчёт памяти.

Скомандуйте        sysctl -wq vm.dirty_expire_centisecs=200  && sysctl -wq vm.dirty_ratio=5  &&  sysctl -wq vm.dirty_background_ratio=5 (прям так одной строкой) после чего повторите попытку, флэшку не вынимайте.

У меня как минимум зажило. Однако всё же лучше Ext3/4.

Сделал , но ничего не изменилось . Как и раньше ,через некоторое время после команды копирования с ноута на роутер появляется ошибка , активности по сети не наблюдается. Отменяю копирование , а на роутере появляется файл того же размера и с тем же именем , но похоже он пустой - все как и раньше

2022012500000120220125000002

У меня больше не повторяется. Уже 10ток раз проверил. Скиньте текущий IP и мак адрес WAN соберу тестовый образ и подключу вас к тест ветке. Ессно закручивание гаек VM это не решение, а так откладывание неизбежного.

Надо драйвер ExFat полноценно переводим на использования vmalloc, сейчас из-за нехватки или фрагментации RAM он регулярно обламывается похоже. Ext4 свободна от этой проблемы. Там уже давно всё сделано. Причём сразу из коробки. Я как-то не вижу особого смысла убивать время в допил драйвера ExFAT учитывая что он имеет ряд других ограничений (точнее сама exfat) делающее его юзабельным в *nix только на уровне прочитать что-то под виндой записанное. А это будет работать и в текущей реализации.

Ессно у меня нет никаких торрентов и эккаунтингов жрущих память.

скинуть на мыло ? на это support@wi-cat.ru ?

 

Ессно у меня нет никаких торрентов и эккаунтингов жрущих память.

Отключил все это , проблема не исчезла

  1. Да, скинуть на мыло. Через часик приеду - залью.

Переключил. Пробуйте. Не поможет буду искать W10 и время для дебага. У себя повторов более не вижу. Хотя драйвер нужно бы на тему работы с памятью перепахать. Но это только в свободное время которого особо не предвидится.

Так что если не заживёт сегодня и сборка с дебагом завтра не даст ответа на вопрос чего ему надо - отложим до лучших времён.

Ничего не изменилось . По-прежнему проблемы с записью файлов более 1.6 Гб

Только что залил 4.6Гб файл, вообще без затыков. В общем пообещали завтра бук с виндой. Повториться - бум разбираться. Нет - ну опаньки.

Настройки USB верните в 2.0 кстати.

После заливки проверял ? У меня все файлы которые я заливаю появляются на диске роутера , но только они пустые .

Пустые если файл больше 1,6ГБ , 1.3Гб заливается нормально

Ещё раз повторяю. У меня заливка проходит корректно, это означает что чексуммы исходного и финального файла СОВПАДАЮТ и в процессе копирования даже близко ничего не проседает и не прерывается.

Используйте ext4 раз такие дела. Всплывёт у меня - попробую дебажить. Нет, ну не очень то и хотелось. Есть море гораздо более критичных задач. Все эти эксфаты с самбами я бы с удовольствием бы вообще бы выкинул, нечего им на шлюзах в мир делать по определению.

Цитата: Sergei_ от 25/01/2022, 23:05

После заливки проверял ? У меня все файлы которые я заливаю появляются на диске роутера , но только они пустые .

Пустые если файл больше 1,6ГБ , 1.3Гб заливается нормально

У вас изначально был репорт о 13Гб, потом о 2Гб, терь уже 1,6Гб и 1,3 Гб =))))))))))))

Сбросьбе настройки в ноль и настройте по минимуму.

P.S. Простите, я спать и так в последнюю неделю 24/7 и пора завязывать с этим. Не оплатят и не оценят.

У вас изначально был репорт о 13Гб, потом о 2Гб, терь уже 1,6Гб и 1,3 Гб =))))))))))))

Вовлекли вы меня в этот процесс , стал искать минимальный размер не записываемого файла  )) 

А может нужно сначала выяснять? Ну что бы не вводить в заблуждение? В любом случае не репродьюситься после закручивания гаек. Флэшка под рукой только 8Гб. Забивается под завязку, чексуммы совпадают.

Завтра попробуем ещё финт ушами если время будет. Сейчас сил нет уже. И даже медиумы спят.

А может нужно сначала выяснять? Ну что бы не вводить в заблуждение?

 На 16Гб флешку  файл в 3.5 Гб не писался , а на 1Тб диск записался . 27 Гб файл на диск не записался по самбе , а по FTP записался.

Ладно , для себя решил - буду писать по FTP , читать по самбе и использовать exFAT.

Можем считать вопрос закрытым

Ну т.е. нормально так. Потратить день работы и бросить на середине. =)))

Представляете, в технике всё вполне однозначно  когда рамы в обрез на файлопомойке. Результат вида жить будет - любить нет более чем предсказуем.

Вопрос как с этим жить и что делать. У меня вполне есть мысли как поурезать осетра эксфату в части рамы и чувствительности к фрагментации оной. Но заниматься я этим особо не стану если тестить не кому, а у меня повтора нет.

Почему через самбу будет чаще возникать трабла когда рамы в обрез думаю понятно без пояснений. Учитывая что реализация ftp десяток кб, а сама несколько мб. =)))

Другого не пойму что за тяга к exFAT учитывая что есть нормальная нативная Ext4.

Мне в общем-то всё равно. Даже проще. Откажусь от машины под виндами и 32Гб флэшке обещанной людьми и забуду. Тем более от других репортов не было.

Ну т.е. нормально так. Потратить день работы и бросить на середине. =)))

Просто сложилось впечатление , что вопрос трудно решаем из-за ограниченных возможностей железа роутера. Но если эта проблема решиться , буду только рад .

Другого не пойму что за тяга к exFAT учитывая что есть нормальная нативная Ext4.

Что тут не понятного ? ) Я просто обычный пользователь , который юзает виндовс , для меня все что не читается под виндовс - враждебно и не понятно )).

Только ради того , что у данного роутера есть поддержка NTFS и exFAT и USB3 отказался от микротика , хотя на нем тоже у меня был небольшой NAS на ext3. Сыграл фактор , что можно взять диск с роутера и без всяких "танцев", когда нибудь, подключить к компу. )

Usb3 бесполезен и даже врнден, ибо срёт в 2.4ГГц, повышает требования к коммутации снижая надёжность, а так же может грозить проблемами совместимости.

Поддержка не нативных FS  чревата даже под винды для которой вполне есть ext4 драйвер и море ресурсов у ПК, но насиловать нужно почему-то роутер =))

Ессно трудозатратно когда повтора нет. Но даже это не объясняет городух. Как и зачем юзать враждебные для целевого  устройства FS. Ну кроме поиска приключений

 

Usb3 бесполезен и даже врнден, ибо срёт в 2.4ГГц,

Да похрену этот 2.4 ГГц, практически все на 5 ГГц - у каждого свои приоритеты. Сейчас работает вай фай с юсб3 (я думаю что в режиме юсб3 работает , а там кто его знает может он все время в юсб2) - все устраивает , особых проблем пока не наблюдалось , если будут буду думать что делать с юсб ( благо только сейчас узнал , на что может влиять)

Как и зачем юзать враждебные для целевого  устройства FS. Ну кроме поиска приключений

Выше я описал зачем. и приключения тоже

 

Я ещё раз повторяю. Использование USB3 на этом SOC бессмысленно, ну если только цель не поиск приключений.

Выше я не увидел объяснения зачем. Что-бы было это не ответ.

Проверьте 4.2.14 в обновлениях и вырубите USB3. Он не просто так по умолчанию выключен. Разберёмся с одной проблемой потом будете тыкать что хотите.

Если человек настырно творит что-то своё, вместо того чтобы делать, то что его просят....  Ну как бы намекает, что решить проблему ему не нужно, ну значит и я плюну тратить своё время.

В последний раз пытаюсь пойти на встречу. Если не собираетесь делать запрошенное - так и скажите. Закрою тему и делов.

Притащили винды и накопитель USB3 32Гб. Повторилось только если сначала с него что-то скопировать,а потом попытаться назад. Траблы с cache всяко. Причём драйвер впадает в кому. Ок. Попробуем полечить.

В общем закопался я потроха ExFAT. Оказывается это недоFS по всем фронтам. А главное она не может жить без резервирования места под файл до начала копирования. И если линукс даже поверх самбы корректно обрабатывает такое, то винда часто недожидается окончания преэллокации и выдаёт ошибку.

Т.е. для записи по сети ExFAT категорически не подходит, чисто как таскалка файлов с винды для проигрывания через роутер и не более.

Плюс нашёл неприятную ошибку которая приводила к глухому ступору, но это уже косвенно.

В общем, варианты такие для файлопомойки:
1) медленный NTFS-3G
3) Ext2/3/4 в зависимости от того на чём, Ext2 на флэшках что бы дырку не протирало, Etx4 на дисках

Других решений нет.

4.2.13 с поправленным косяком который приводил к входу ExFAT в некоторых ситуациях совсем в позу лотоса будет вечером. Однако вам это врятли чем поможет.

Добавил в заметку https://wi-cat.ru/wive-ng/chto-mozhet-usb/

И описанное выше не самый маразм реализации ExFAT. В общем придумал её МС для флэшек, запилил самсунг для телефончиков с андроид, так оно и не сдвинулось дальше. В апстриме тоже самое. УГ а не FS $(

Теперь  все понятно . Спасибо за разъяснение.

Наверное некоторое время помучаюсь с exFAT , большие файлы буду писать через FTP - вроде проблем по нему нет , хоть и все равно на  exFAT пишет.

Дальше посмотрю , может вернусь на ext4

 через FTP - вроде проблем по нему нет

Просто клиент FTP  настойчив и корректно обрабатывает статус ожидания (откровенно лень копать глубже в чём разница, ограничимся предположениями) видимо, в отличие от винды поверх самбы. Линукс и поверх самбы пишет и визуально проблем особых нет кроме проседаний скорости и задержек.

Что увы ничего не меняет. Не годиться она для файлопомойки. А для винтов больших тоже не годиться ибо не журналируемая и потерять данные с ней раз плюнуть.

Не годиться она для файлопомойки. А для винтов больших тоже не годиться ибо не журналируемая и потерять данные с ней раз плюнуть.

Все хорошо для своих целей. По большому счету не планирую писать туда торренты (изредка если только) и интенсивно писать на него не планирую , только в первое время когда буду заполнять его медиа файлами . Основная его цель это раздавать медиа контент на телевизоры. exFAT толь для того чтобы подсоединить к ноуту в случае если надо что то по быстрому записать на него или перепесать с него на другие диски. Был бы на ноуте Линукс , то и exFAT не нужен был бы )

Я просто оставлю это здесь и ещё вот это

Тема себя исчерпала. Закрываю.

 

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: