Dart: обрабатывать входящие HTTP-запросы параллельно

Я пытаюсь написать HTTP-сервер в Dart, который может обрабатывать несколько запросов параллельно. До сих пор я не смог достичь "параллельной" части.

По каждому запросу он занят работой в течение одной секунды, а затем завершает работу. Я сделал так, чтобы он обрабатывал запросы таким образом, чтобы его время было предсказуемым, и поэтому я мог легко увидеть эффект запроса в диспетчере задач Windows (ядро процессора перепрыгивает до 100% использования).

Я могу сказать, что это не обрабатывает запросы параллельно, потому что:

Итак, я попытался использовать изоляты, надеясь вручную создать новую изоляцию/поток для каждого запроса:

Это не работает вообще. Мне не нравится, что я пытаюсь отправить HttpRequest в качестве сообщения изолированному. Вот ошибка:

Можно ли обрабатывать эти запросы параллельно, используя все мои доступные ядра ядра, используя Dart?

Ответы

Ответ 1

Я написал библиотеку под названием dart-isoserver, чтобы сделать это некоторое время назад. Теперь он сильно сгнил, но вы можете видеть этот подход.

https://code.google.com/p/dart-isoserver/

То, что я сделал, это прокси-сервер HttpRequest и HttpResponse через изолированные каналы, так как вы не можете отправлять их напрямую. Он работал, хотя было несколько предостережений:

Ввод/вывод по запросу и ответу прошел через главный изолятор, так что часть не была параллельной. Другая работа, выполненная в изолированном рабочем месте, не блокировала главный изолят. Что действительно должно произойти, так это то, что соединение сокета должно быть передано между изолятами.
Исключения в изоляторе будут уничтожать весь сервер. spawnFunction() теперь имеет необязательный параметр обработчика исключений, так что это несколько исправление, но spawnUri() этого не делает. dart-isoserver использовал spawnUri() для реализации "горячей загрузки", поэтому его нужно было бы удалить.
Изолиты немного медленнее запускать, и вы, вероятно, не хотите, чтобы одно соединение для тысяч одновременных случаев использования соединений, которые nginx и node.js target. Изолирующий пул с рабочими очередями, вероятно, будет работать лучше, хотя это устранит приятную функцию, которую вы могли бы использовать блокирующий ввод-вывод для рабочего.

Заметка о вашем первом примере кода. Это определенно не будет работать параллельно, как вы заметили, потому что Дарт однопоточный. Ни один код Dart в том же изоляте никогда не запускается одновременно.

Ответ 2

Даже при существующих ограничениях HttpServer можно использовать несколько ядер, запустив несколько серверных процессов за обратным прокси-сервером, таким как Apache или Nginx. Внутри Dart вы также можете разветвлять дочерние процессы, чтобы разделить интенсивные задачи с вычислением.

Хорошим местом для начала было бы прочитать о масштабировании node.js, так как это также использует единую архитектуру для каждого процесса.

Изменить: ответ теперь устарел, теперь можно обмениваться запросами между изолятами, позволяя процессу Дарт использовать несколько ядер.

Смотрите документы для ServerSocket.bind(общий).

"Необязательный аргумент shared указывает, возможно ли добавление дополнительных привязок к одному и тому же адресу, комбинации портов и v6Only из одного и того же процесса Dart. Если shared равно true и выполняются дополнительные привязки, то входящие соединения будут распределены между этим набором ServerSockets. Один из способов использования этого - иметь количество изолятов, между которыми распределяются входящие соединения.