Spark– tag –
-
Microsoft FabricのPython UDF高速化とは?NEE変更点と確認ポイント
Microsoft FabricでPython UDFや配列・Map・Structなどの複雑なデータ型を使うSparkジョブが遅い場合、今回のNoticeは優先して確認すべき内容です。結論から言うと、Nat... -
Microsoft FabricのEfficient Scaledown変更点|Sparkジョブへの影響と確認ポイント
Microsoft FabricでSparkジョブを運用している場合、「More resilient Spark jobs with Efficient Scaledown」は、シャッフルが多いジョブのコスト・失敗率・実行時間の... -
Azure Synapse Spark で environment.yml を使うと LIBRARY_MANAGEMENT_FAILED になる原因と安全な対処法
Azure Synapse Analytics の Spark プールに Python パッケージをまとめて入れようとして、手元の Anaconda 環境から出力した environment.yml をアップロードしたら、...
1
